home *** CD-ROM | disk | FTP | other *** search
/ Turnbull China Bikeride / Turnbull China Bikeride - Disc 2.iso / BARNET / BZIP2 / 980316 / bzip / c / bzip2 next >
Encoding:
Text File  |  1998-03-13  |  116.7 KB  |  4,151 lines
  1. /*-----------------------------------------------------------*/
  2. /*--- A block-sorting, lossless compressor        bzip2.c ---*/
  3. /*-----------------------------------------------------------*/
  4.  
  5. /*--
  6.   This program is bzip2, a lossless, block-sorting data compressor,
  7.   version 0.1pl2, dated 29-Aug-1997.
  8.  
  9.   Copyright (C) 1996, 1997 by Julian Seward.
  10.      Guildford, Surrey, UK
  11.      email: jseward@acm.org
  12.  
  13.   This program is free software; you can redistribute it and/or modify
  14.   it under the terms of the GNU General Public License as published by
  15.   the Free Software Foundation; either version 2 of the License, or
  16.   (at your option) any later version.
  17.  
  18.   This program is distributed in the hope that it will be useful,
  19.   but WITHOUT ANY WARRANTY; without even the implied warranty of
  20.   MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  21.   GNU General Public License for more details.
  22.  
  23.   You should have received a copy of the GNU General Public License
  24.   along with this program; if not, write to the Free Software
  25.   Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
  26.  
  27.   The GNU General Public License is contained in the file LICENSE.
  28.  
  29.   This program is based on (at least) the work of:
  30.      Mike Burrows
  31.      David Wheeler
  32.      Peter Fenwick
  33.      Alistair Moffat
  34.      Radford Neal
  35.      Ian H. Witten
  36.      Robert Sedgewick
  37.      Jon L. Bentley
  38.  
  39.   For more information on these sources, see the file ALGORITHMS.
  40. --*/
  41.  
  42. /*----------------------------------------------------*/
  43. /*--- IMPORTANT                                    ---*/
  44. /*----------------------------------------------------*/
  45.  
  46. /*--
  47.    WARNING:
  48.       This program (attempts to) compress data by performing several
  49.       non-trivial transformations on it.  Unless you are 100% familiar
  50.       with *all* the algorithms contained herein, and with the
  51.       consequences of modifying them, you should NOT meddle with the
  52.       compression or decompression machinery.  Incorrect changes can
  53.       and very likely *will* lead to disasterous loss of data.
  54.  
  55.    DISCLAIMER:
  56.       I TAKE NO RESPONSIBILITY FOR ANY LOSS OF DATA ARISING FROM THE
  57.       USE OF THIS PROGRAM, HOWSOEVER CAUSED.
  58.  
  59.       Every compression of a file implies an assumption that the
  60.       compressed file can be decompressed to reproduce the original.
  61.       Great efforts in design, coding and testing have been made to
  62.       ensure that this program works correctly.  However, the
  63.       complexity of the algorithms, and, in particular, the presence
  64.       of various special cases in the code which occur with very low
  65.       but non-zero probability make it impossible to rule out the
  66.       possibility of bugs remaining in the program.  DO NOT COMPRESS
  67.       ANY DATA WITH THIS PROGRAM UNLESS YOU ARE PREPARED TO ACCEPT THE
  68.       POSSIBILITY, HOWEVER SMALL, THAT THE DATA WILL NOT BE RECOVERABLE.
  69.  
  70.       That is not to say this program is inherently unreliable.
  71.       Indeed, I very much hope the opposite is true.  bzip2 has been
  72.       carefully constructed and extensively tested.
  73.  
  74.    PATENTS:
  75.       To the best of my knowledge, bzip2 does not use any patented
  76.       algorithms.  However, I do not have the resources available to
  77.       carry out a full patent search.  Therefore I cannot give any
  78.       guarantee of the above statement.
  79. --*/
  80.  
  81.  
  82.  
  83. /*----------------------------------------------------*/
  84. /*--- and now for something much more pleasant :-) ---*/
  85. /*----------------------------------------------------*/
  86.  
  87. /*---------------------------------------------*/
  88. /*--
  89.   Place a 1 beside your platform, and 0 elsewhere.
  90. --*/
  91.  
  92. /*--
  93.   Generic 32-bit Unix.
  94.   Also works on 64-bit Unix boxes.
  95. --*/
  96. #define BZ_UNIX        0
  97.  
  98. /*--
  99.   Win32, as seen by Jacob Navia's excellent
  100.   port of (Chris Fraser & David Hanson)'s excellent
  101.   lcc compiler.
  102. --*/
  103. #define BZ_LCCWIN32    0
  104.  
  105. /*--
  106.   Acorn's RISC OS (currently requires unixlib & gcc)
  107. --*/
  108.  
  109. #define BZ_RISCOS    1
  110.  
  111. /*---------------------------------------------*/
  112. /*--
  113.   Some stuff for all platforms.
  114. --*/
  115.  
  116. #include <stdio.h>
  117. #include <stdlib.h>
  118. #if DEBUG
  119.   #include <assert.h>
  120. #endif
  121. #include <string.h>
  122. #include <signal.h>
  123. #include <math.h>
  124.  
  125. #define ERROR_IF_EOF(i)       { if ((i) == EOF)  ioError(); }
  126. #define ERROR_IF_NOT_ZERO(i)  { if ((i) != 0)    ioError(); }
  127. #define ERROR_IF_MINUS_ONE(i) { if ((i) == (-1)) ioError(); }
  128.  
  129.  
  130. /*---------------------------------------------*/
  131. /*--
  132.    Platform-specific stuff.
  133. --*/
  134.  
  135. #if BZ_UNIX
  136.    #include <sys/types.h>
  137.    #include <utime.h>
  138.    #include <unistd.h>
  139.    #include <malloc.h>
  140.    #include <sys/stat.h>
  141.    #include <sys/times.h>
  142.  
  143.    #define Int32   int
  144.    #define UInt32  unsigned int
  145.    #define Char    char
  146.    #define UChar   unsigned char
  147.    #define Int16   short
  148.    #define UInt16  unsigned short
  149.  
  150.    #define PATH_SEP    '/'
  151.    #define MY_LSTAT    lstat
  152.    #define MY_S_IFREG  S_ISREG
  153.    #define MY_STAT     stat
  154.  
  155.    #define APPEND_FILESPEC(root, name) \
  156.       root=snocString((root), (name))
  157.  
  158.    #define SET_BINARY_MODE(fd) /**/
  159.  
  160.    /*--
  161.       You should try very hard to persuade your C compiler
  162.       to inline the bits marked INLINE.  Otherwise bzip2 will
  163.       run rather slowly.  gcc version 2.x is recommended.
  164.    --*/
  165.    #ifdef __GNUC__
  166.       #define INLINE   inline
  167.       #define NORETURN __attribute__ ((noreturn))
  168.    #else
  169.       #define INLINE   /**/
  170.       #define NORETURN /**/
  171.    #endif
  172. #endif
  173.  
  174.  
  175.  
  176. #if BZ_LCCWIN32
  177.    #include <io.h>
  178.    #include <fcntl.h>
  179.    #include <sys\stat.h>
  180.  
  181.    #define Int32   int
  182.    #define UInt32  unsigned int
  183.    #define Int16   short
  184.    #define UInt16  unsigned short
  185.    #define Char    char
  186.    #define UChar   unsigned char
  187.  
  188.    #define INLINE         /**/
  189.    #define NORETURN       /**/
  190.    #define PATH_SEP       '\\'
  191.    #define MY_LSTAT       _stat
  192.    #define MY_STAT        _stat
  193.    #define MY_S_IFREG(x)  ((x) & _S_IFREG)
  194.  
  195.    #if 0
  196.    /*-- lcc-win32 seems to expand wildcards itself --*/
  197.    #define APPEND_FILESPEC(root, spec)                \
  198.       do {                                            \
  199.          if ((spec)[0] == '-') {                      \
  200.             root = snocString((root), (spec));        \
  201.          } else {                                     \
  202.             struct _finddata_t c_file;                \
  203.             long hFile;                               \
  204.             hFile = _findfirst((spec), &c_file);      \
  205.             if ( hFile == -1L ) {                     \
  206.                root = snocString ((root), (spec));    \
  207.             } else {                                  \
  208.                int anInt = 0;                         \
  209.                while ( anInt == 0 ) {                 \
  210.                   root = snocString((root),           \
  211.                             &c_file.name[0]);         \
  212.                   anInt = _findnext(hFile, &c_file);  \
  213.                }                                      \
  214.             }                                         \
  215.          }                                            \
  216.       } while ( 0 )
  217.    #else
  218.    #define APPEND_FILESPEC(root, name)                \
  219.       root = snocString ((root), (name))
  220.    #endif
  221.  
  222.    #define SET_BINARY_MODE(fd)                        \
  223.       do {                                            \
  224.          int retVal = setmode ( fileno ( fd ),        \
  225.                                O_BINARY );            \
  226.          ERROR_IF_MINUS_ONE ( retVal );               \
  227.       } while ( 0 )
  228.  
  229. #endif
  230.  
  231. #if BZ_RISCOS
  232.    #define BZ_FILETYPE 0x16E
  233.  
  234.    #include <sys/types.h>
  235.    #include <stdio.h>        /* required by tmpnam() */
  236.    #include <sys/os.h>        /* required by os_file() */
  237.    #include <utime.h>
  238.    #include <unistd.h>        /* can i narrow this down & remove it? */
  239.    #include <malloc.h>
  240.    #include <sys/stat.h>
  241.    #include <sys/times.h>
  242.  
  243.  
  244.    #define Int32   int
  245.    #define UInt32  unsigned int
  246.    #define Char    char
  247.    #define UChar   unsigned char
  248.    #define Int16   short
  249.    #define UInt16  unsigned short
  250.  
  251.    #define PATH_SEP    '.'
  252.    #define MY_LSTAT    lstat
  253.    #define MY_S_IFREG  S_ISREG
  254.    #define MY_STAT     stat
  255.  
  256.    #define APPEND_FILESPEC(root, name) \
  257.       root=snocString((root), (name))
  258.  
  259.    #define SET_BINARY_MODE(fd) /**/
  260.  
  261.    /*--
  262.       You should try very hard to persuade your C compiler
  263.       to inline the bits marked INLINE.  Otherwise bzip2 will
  264.       run rather slowly.  gcc version 2.x is recommended.
  265.    --*/
  266.    #define INLINE   inline
  267.    #define NORETURN __attribute__ ((noreturn))
  268. #endif
  269.  
  270. /*---------------------------------------------*/
  271. /*--
  272.   Some more stuff for all platforms :-)
  273. --*/
  274.  
  275. #define Bool   unsigned char
  276. #define True   1
  277. #define False  0
  278.  
  279. /*--
  280.   IntNative is your platform's `native' int size.
  281.   Only here to avoid probs with 64-bit platforms.
  282. --*/
  283. #define IntNative int
  284.  
  285.  
  286. /*--
  287.    change to 1, or compile with -DDEBUG=1 to debug
  288. --*/
  289. #ifndef DEBUG
  290. #define DEBUG 0
  291. #endif
  292.  
  293.  
  294. /*---------------------------------------------------*/
  295. /*---                                             ---*/
  296. /*---------------------------------------------------*/
  297.  
  298. /*--
  299.    Implementation notes, July 1997
  300.    ~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
  301.  
  302.    Memory allocation
  303.    ~~~~~~~~~~~~~~~~~
  304.    All large data structures are allocated on the C heap,
  305.    for better or for worse.  That includes the various
  306.    arrays of pointers, striped words, bytes, frequency
  307.    tables and buffers for compression and decompression.
  308.  
  309.    bzip2 can operate at various block-sizes, ranging from
  310.    100k to 900k in 100k steps, and it allocates only as
  311.    much as it needs to.  When compressing, we know from the
  312.    command-line options what the block-size is going to be,
  313.    so all allocation can be done at start-up; if that
  314.    succeeds, there can be no further allocation problems.
  315.  
  316.    Decompression is more complicated.  Each compressed file
  317.    contains, in its header, a byte indicating the block
  318.    size used for compression.  This means bzip2 potentially
  319.    needs to reallocate memory for each file it deals with,
  320.    which in turn opens the possibility for a memory allocation
  321.    failure part way through a run of files, by encountering
  322.    a file requiring a much larger block size than all the
  323.    ones preceding it.
  324.  
  325.    The policy is to simply give up if a memory allocation
  326.    failure occurs.  During decompression, it would be
  327.    possible to move on to subsequent files in the hope that
  328.    some might ask for a smaller block size, but the
  329.    complications for doing this seem more trouble than they
  330.    are worth.
  331.  
  332.  
  333.    Compressed file formats
  334.    ~~~~~~~~~~~~~~~~~~~~~~~
  335.    [This is now entirely different from both 0.21, and from
  336.     any previous Huffman-coded variant of bzip.
  337.     See the associated file bzip2.txt for details.]
  338.  
  339.  
  340.    Error conditions
  341.    ~~~~~~~~~~~~~~~~
  342.    Dealing with error conditions is the least satisfactory
  343.    aspect of bzip2.  The policy is to try and leave the
  344.    filesystem in a consistent state, then quit, even if it
  345.    means not processing some of the files mentioned in the
  346.    command line.  `A consistent state' means that a file
  347.    exists either in its compressed or uncompressed form,
  348.    but not both.  This boils down to the rule `delete the
  349.    output file if an error condition occurs, leaving the
  350.    input intact'.  Input files are only deleted when we can
  351.    be pretty sure the output file has been written and
  352.    closed successfully.
  353.  
  354.    Errors are a dog because there's so many things to
  355.    deal with.  The following can happen mid-file, and
  356.    require cleaning up.
  357.  
  358.      internal `panics' -- indicating a bug
  359.      corrupted or inconsistent compressed file
  360.      can't allocate enough memory to decompress this file
  361.      I/O error reading/writing/opening/closing
  362.      signal catches -- Control-C, SIGTERM, SIGHUP.
  363.  
  364.    Other conditions, primarily pertaining to file names,
  365.    can be checked in-between files, which makes dealing
  366.    with them easier.
  367. --*/
  368.  
  369.  
  370.  
  371. /*---------------------------------------------------*/
  372. /*--- Misc (file handling) data decls             ---*/
  373. /*---------------------------------------------------*/
  374.  
  375. UInt32  bytesIn, bytesOut;
  376. Int32   verbosity;
  377. Bool    keepInputFiles, smallMode, testFailsExist;
  378. UInt32  globalCrc;
  379. Int32   numFileNames, numFilesProcessed;
  380.  
  381.  
  382. /*-- source modes; F==file, I==stdin, O==stdout --*/
  383. #define SM_I2O           1
  384. #define SM_F2O           2
  385. #define SM_F2F           3
  386.  
  387. /*-- operation modes --*/
  388. #define OM_Z             1
  389. #define OM_UNZ           2
  390. #define OM_TEST          3
  391.  
  392. Int32   opMode;
  393. Int32   srcMode;
  394.  
  395.  
  396. Int32   longestFileName;
  397. Char    inName[1024];
  398. Char    outName[1024];
  399. Char    *progName;
  400. Char    progNameReally[1024];
  401. FILE    *outputHandleJustInCase;
  402.  
  403. void    panic                 ( Char* )          NORETURN;
  404. void    ioError               ( void )           NORETURN;
  405. void    compressOutOfMemory   ( Int32, Int32 )   NORETURN;
  406. void    uncompressOutOfMemory ( Int32, Int32 )   NORETURN;
  407. void    blockOverrun          ( void )           NORETURN;
  408. void    badBlockHeader        ( void )           NORETURN;
  409. void    badBGLengths          ( void )           NORETURN;
  410. void    crcError              ( UInt32, UInt32 ) NORETURN;
  411. void    bitStreamEOF          ( void )           NORETURN;
  412. void    cleanUpAndFail        ( Int32 )          NORETURN;
  413. void    compressedStreamEOF   ( void )           NORETURN;
  414.  
  415. void*   myMalloc ( Int32 );
  416.  
  417.  
  418.  
  419. /*---------------------------------------------------*/
  420. /*--- Data decls for the front end                ---*/
  421. /*---------------------------------------------------*/
  422.  
  423. /*--
  424.    The overshoot bytes allow us to avoid most of
  425.    the cost of pointer renormalisation during
  426.    comparison of rotations in sorting.
  427.    The figure of 20 is derived as follows:
  428.       qSort3 allows an overshoot of up to 10.
  429.       It then calls simpleSort, which calls
  430.       fullGtU, also with max overshoot 10.
  431.       fullGtU does up to 10 comparisons without
  432.       renormalising, giving 10+10 == 20.
  433. --*/
  434. #define NUM_OVERSHOOT_BYTES 20
  435.  
  436. /*--
  437.   These are the main data structures for
  438.   the Burrows-Wheeler transform.
  439. --*/
  440.  
  441. /*--
  442.   Pointers to compression and decompression
  443.   structures.  Set by
  444.      allocateCompressStructures   and
  445.      setDecompressStructureSizes
  446.  
  447.   The structures are always set to be suitable
  448.   for a block of size 100000 * blockSize100k.
  449. --*/
  450. UChar    *block;    /*-- compress   --*/
  451. UInt16   *quadrant; /*-- compress   --*/
  452. Int32    *zptr;     /*-- compress   --*/
  453. UInt16   *szptr;    /*-- overlays zptr ---*/
  454. Int32    *ftab;     /*-- compress   --*/
  455.  
  456. UInt16   *ll16;     /*-- small decompress --*/
  457. UChar    *ll4;      /*-- small decompress --*/
  458.  
  459. Int32    *tt;       /*-- fast decompress  --*/
  460. UChar    *ll8;      /*-- fast decompress  --*/
  461.  
  462.  
  463. /*--
  464.   freq table collected to save a pass over the data
  465.   during decompression.
  466. --*/
  467. Int32   unzftab[256];
  468.  
  469.  
  470. /*--
  471.    index of the last char in the block, so
  472.    the block size == last + 1.
  473. --*/
  474. Int32  last;
  475.  
  476.  
  477. /*--
  478.   index in zptr[] of original string after sorting.
  479. --*/
  480. Int32  origPtr;
  481.  
  482.  
  483. /*--
  484.   always: in the range 0 .. 9.
  485.   The current block size is 100000 * this number.
  486. --*/
  487. Int32  blockSize100k;
  488.  
  489.  
  490. /*--
  491.   Used when sorting.  If too many long comparisons
  492.   happen, we stop sorting, randomise the block
  493.   slightly, and try again.
  494. --*/
  495.  
  496. Int32  workFactor;
  497. Int32  workDone;
  498. Int32  workLimit;
  499. Bool   blockRandomised;
  500. Bool   firstAttempt;
  501. Int32  nBlocksRandomised;
  502.  
  503.  
  504.  
  505. /*---------------------------------------------------*/
  506. /*--- Data decls for the back end                 ---*/
  507. /*---------------------------------------------------*/
  508.  
  509. #define MAX_ALPHA_SIZE 258
  510. #define MAX_CODE_LEN    23
  511.  
  512. #define RUNA 0
  513. #define RUNB 1
  514.  
  515. #define N_GROUPS 6
  516. #define G_SIZE   50
  517. #define N_ITERS  4
  518.  
  519. #define MAX_SELECTORS (2 + (900000 / G_SIZE))
  520.  
  521. Bool  inUse[256];
  522. Int32 nInUse;
  523.  
  524. UChar seqToUnseq[256];
  525. UChar unseqToSeq[256];
  526.  
  527. UChar selector   [MAX_SELECTORS];
  528. UChar selectorMtf[MAX_SELECTORS];
  529.  
  530. Int32 nMTF;
  531.  
  532. Int32 mtfFreq[MAX_ALPHA_SIZE];
  533.  
  534. UChar len  [N_GROUPS][MAX_ALPHA_SIZE];
  535.  
  536. /*-- decompress only --*/
  537. Int32 limit  [N_GROUPS][MAX_ALPHA_SIZE];
  538. Int32 base   [N_GROUPS][MAX_ALPHA_SIZE];
  539. Int32 perm   [N_GROUPS][MAX_ALPHA_SIZE];
  540. Int32 minLens[N_GROUPS];
  541.  
  542. /*-- compress only --*/
  543. Int32  code [N_GROUPS][MAX_ALPHA_SIZE];
  544. Int32  rfreq[N_GROUPS][MAX_ALPHA_SIZE];
  545.  
  546.  
  547. /*---------------------------------------------------*/
  548. /*--- 32-bit CRC grunge                           ---*/
  549. /*---------------------------------------------------*/
  550.  
  551. /*--
  552.   I think this is an implementation of the AUTODIN-II,
  553.   Ethernet & FDDI 32-bit CRC standard.  Vaguely derived
  554.   from code by Rob Warnock, in Section 51 of the
  555.   comp.compression FAQ.
  556. --*/
  557.  
  558. UInt32 crc32Table[256] = {
  559.  
  560.    /*-- Ugly, innit? --*/
  561.  
  562.    0x00000000UL, 0x04c11db7UL, 0x09823b6eUL, 0x0d4326d9UL,
  563.    0x130476dcUL, 0x17c56b6bUL, 0x1a864db2UL, 0x1e475005UL,
  564.    0x2608edb8UL, 0x22c9f00fUL, 0x2f8ad6d6UL, 0x2b4bcb61UL,
  565.    0x350c9b64UL, 0x31cd86d3UL, 0x3c8ea00aUL, 0x384fbdbdUL,
  566.    0x4c11db70UL, 0x48d0c6c7UL, 0x4593e01eUL, 0x4152fda9UL,
  567.    0x5f15adacUL, 0x5bd4b01bUL, 0x569796c2UL, 0x52568b75UL,
  568.    0x6a1936c8UL, 0x6ed82b7fUL, 0x639b0da6UL, 0x675a1011UL,
  569.    0x791d4014UL, 0x7ddc5da3UL, 0x709f7b7aUL, 0x745e66cdUL,
  570.    0x9823b6e0UL, 0x9ce2ab57UL, 0x91a18d8eUL, 0x95609039UL,
  571.    0x8b27c03cUL, 0x8fe6dd8bUL, 0x82a5fb52UL, 0x8664e6e5UL,
  572.    0xbe2b5b58UL, 0xbaea46efUL, 0xb7a96036UL, 0xb3687d81UL,
  573.    0xad2f2d84UL, 0xa9ee3033UL, 0xa4ad16eaUL, 0xa06c0b5dUL,
  574.    0xd4326d90UL, 0xd0f37027UL, 0xddb056feUL, 0xd9714b49UL,
  575.    0xc7361b4cUL, 0xc3f706fbUL, 0xceb42022UL, 0xca753d95UL,
  576.    0xf23a8028UL, 0xf6fb9d9fUL, 0xfbb8bb46UL, 0xff79a6f1UL,
  577.    0xe13ef6f4UL, 0xe5ffeb43UL, 0xe8bccd9aUL, 0xec7dd02dUL,
  578.    0x34867077UL, 0x30476dc0UL, 0x3d044b19UL, 0x39c556aeUL,
  579.    0x278206abUL, 0x23431b1cUL, 0x2e003dc5UL, 0x2ac12072UL,
  580.    0x128e9dcfUL, 0x164f8078UL, 0x1b0ca6a1UL, 0x1fcdbb16UL,
  581.    0x018aeb13UL, 0x054bf6a4UL, 0x0808d07dUL, 0x0cc9cdcaUL,
  582.    0x7897ab07UL, 0x7c56b6b0UL, 0x71159069UL, 0x75d48ddeUL,
  583.    0x6b93dddbUL, 0x6f52c06cUL, 0x6211e6b5UL, 0x66d0fb02UL,
  584.    0x5e9f46bfUL, 0x5a5e5b08UL, 0x571d7dd1UL, 0x53dc6066UL,
  585.    0x4d9b3063UL, 0x495a2dd4UL, 0x44190b0dUL, 0x40d816baUL,
  586.    0xaca5c697UL, 0xa864db20UL, 0xa527fdf9UL, 0xa1e6e04eUL,
  587.    0xbfa1b04bUL, 0xbb60adfcUL, 0xb6238b25UL, 0xb2e29692UL,
  588.    0x8aad2b2fUL, 0x8e6c3698UL, 0x832f1041UL, 0x87ee0df6UL,
  589.    0x99a95df3UL, 0x9d684044UL, 0x902b669dUL, 0x94ea7b2aUL,
  590.    0xe0b41de7UL, 0xe4750050UL, 0xe9362689UL, 0xedf73b3eUL,
  591.    0xf3b06b3bUL, 0xf771768cUL, 0xfa325055UL, 0xfef34de2UL,
  592.    0xc6bcf05fUL, 0xc27dede8UL, 0xcf3ecb31UL, 0xcbffd686UL,
  593.    0xd5b88683UL, 0xd1799b34UL, 0xdc3abdedUL, 0xd8fba05aUL,
  594.    0x690ce0eeUL, 0x6dcdfd59UL, 0x608edb80UL, 0x644fc637UL,
  595.    0x7a089632UL, 0x7ec98b85UL, 0x738aad5cUL, 0x774bb0ebUL,
  596.    0x4f040d56UL, 0x4bc510e1UL, 0x46863638UL, 0x42472b8fUL,
  597.    0x5c007b8aUL, 0x58c1663dUL, 0x558240e4UL, 0x51435d53UL,
  598.    0x251d3b9eUL, 0x21dc2629UL, 0x2c9f00f0UL, 0x285e1d47UL,
  599.    0x36194d42UL, 0x32d850f5UL, 0x3f9b762cUL, 0x3b5a6b9bUL,
  600.    0x0315d626UL, 0x07d4cb91UL, 0x0a97ed48UL, 0x0e56f0ffUL,
  601.    0x1011a0faUL, 0x14d0bd4dUL, 0x19939b94UL, 0x1d528623UL,
  602.    0xf12f560eUL, 0xf5ee4bb9UL, 0xf8ad6d60UL, 0xfc6c70d7UL,
  603.    0xe22b20d2UL, 0xe6ea3d65UL, 0xeba91bbcUL, 0xef68060bUL,
  604.    0xd727bbb6UL, 0xd3e6a601UL, 0xdea580d8UL, 0xda649d6fUL,
  605.    0xc423cd6aUL, 0xc0e2d0ddUL, 0xcda1f604UL, 0xc960ebb3UL,
  606.    0xbd3e8d7eUL, 0xb9ff90c9UL, 0xb4bcb610UL, 0xb07daba7UL,
  607.    0xae3afba2UL, 0xaafbe615UL, 0xa7b8c0ccUL, 0xa379dd7bUL,
  608.    0x9b3660c6UL, 0x9ff77d71UL, 0x92b45ba8UL, 0x9675461fUL,
  609.    0x8832161aUL, 0x8cf30badUL, 0x81b02d74UL, 0x857130c3UL,
  610.    0x5d8a9099UL, 0x594b8d2eUL, 0x5408abf7UL, 0x50c9b640UL,
  611.    0x4e8ee645UL, 0x4a4ffbf2UL, 0x470cdd2bUL, 0x43cdc09cUL,
  612.    0x7b827d21UL, 0x7f436096UL, 0x7200464fUL, 0x76c15bf8UL,
  613.    0x68860bfdUL, 0x6c47164aUL, 0x61043093UL, 0x65c52d24UL,
  614.    0x119b4be9UL, 0x155a565eUL, 0x18197087UL, 0x1cd86d30UL,
  615.    0x029f3d35UL, 0x065e2082UL, 0x0b1d065bUL, 0x0fdc1becUL,
  616.    0x3793a651UL, 0x3352bbe6UL, 0x3e119d3fUL, 0x3ad08088UL,
  617.    0x2497d08dUL, 0x2056cd3aUL, 0x2d15ebe3UL, 0x29d4f654UL,
  618.    0xc5a92679UL, 0xc1683bceUL, 0xcc2b1d17UL, 0xc8ea00a0UL,
  619.    0xd6ad50a5UL, 0xd26c4d12UL, 0xdf2f6bcbUL, 0xdbee767cUL,
  620.    0xe3a1cbc1UL, 0xe760d676UL, 0xea23f0afUL, 0xeee2ed18UL,
  621.    0xf0a5bd1dUL, 0xf464a0aaUL, 0xf9278673UL, 0xfde69bc4UL,
  622.    0x89b8fd09UL, 0x8d79e0beUL, 0x803ac667UL, 0x84fbdbd0UL,
  623.    0x9abc8bd5UL, 0x9e7d9662UL, 0x933eb0bbUL, 0x97ffad0cUL,
  624.    0xafb010b1UL, 0xab710d06UL, 0xa6322bdfUL, 0xa2f33668UL,
  625.    0xbcb4666dUL, 0xb8757bdaUL, 0xb5365d03UL, 0xb1f740b4UL
  626. };
  627.  
  628.  
  629. /*---------------------------------------------*/
  630. void initialiseCRC ( void )
  631. {
  632.    globalCrc = 0xffffffffUL;
  633. }
  634.  
  635.  
  636. /*---------------------------------------------*/
  637. UInt32 getFinalCRC ( void )
  638. {
  639.    return ~globalCrc;
  640. }
  641.  
  642.  
  643. /*---------------------------------------------*/
  644. UInt32 getGlobalCRC ( void )
  645. {
  646.    return globalCrc;
  647. }
  648.  
  649.  
  650. /*---------------------------------------------*/
  651. void setGlobalCRC ( UInt32 newCrc )
  652. {
  653.    globalCrc = newCrc;
  654. }
  655.  
  656.  
  657. /*---------------------------------------------*/
  658. #define UPDATE_CRC(crcVar,cha)              \
  659. {                                           \
  660.    crcVar = (crcVar << 8) ^                 \
  661.             crc32Table[(crcVar >> 24) ^     \
  662.                        ((UChar)cha)];       \
  663. }
  664.  
  665.  
  666. /*---------------------------------------------------*/
  667. /*--- Bit stream I/O                              ---*/
  668. /*---------------------------------------------------*/
  669.  
  670.  
  671. UInt32 bsBuff;
  672. Int32  bsLive;
  673. FILE*  bsStream;
  674. Bool   bsWriting;
  675.  
  676.  
  677. /*---------------------------------------------*/
  678. void bsSetStream ( FILE* f, Bool wr )
  679. {
  680.    if (bsStream != NULL) panic ( "bsSetStream" );
  681.    bsStream = f;
  682.    bsLive = 0;
  683.    bsBuff = 0;
  684.    bytesOut = 0;
  685.    bytesIn = 0;
  686.    bsWriting = wr;
  687. }
  688.  
  689.  
  690. /*---------------------------------------------*/
  691. void bsFinishedWithStream ( void )
  692. {
  693.    if (bsWriting)
  694.       while (bsLive > 0) {
  695.          fputc ( (UChar)(bsBuff >> 24), bsStream );
  696.          bsBuff <<= 8;
  697.          bsLive -= 8;
  698.          bytesOut++;
  699.       }
  700.    bsStream = NULL;
  701. }
  702.  
  703.  
  704. /*---------------------------------------------*/
  705. #define bsNEEDR(nz)                           \
  706. {                                             \
  707.    while (bsLive < nz) {                      \
  708.       Int32 zzi = fgetc ( bsStream );         \
  709.       if (zzi == EOF) compressedStreamEOF();  \
  710.       bsBuff = (bsBuff << 8) | (zzi & 0xffL); \
  711.       bsLive += 8;                            \
  712.    }                                          \
  713. }
  714.  
  715.  
  716. /*---------------------------------------------*/
  717. #define bsNEEDW(nz)                           \
  718. {                                             \
  719.    while (bsLive >= 8) {                      \
  720.       fputc ( (UChar)(bsBuff >> 24),          \
  721.                bsStream );                    \
  722.       bsBuff <<= 8;                           \
  723.       bsLive -= 8;                            \
  724.       bytesOut++;                             \
  725.    }                                          \
  726. }
  727.  
  728.  
  729. /*---------------------------------------------*/
  730. #define bsR1(vz)                              \
  731. {                                             \
  732.    bsNEEDR(1);                                \
  733.    vz = (bsBuff >> (bsLive-1)) & 1;           \
  734.    bsLive--;                                  \
  735. }
  736.  
  737.  
  738. /*---------------------------------------------*/
  739. INLINE UInt32 bsR ( Int32 n )
  740. {
  741.    UInt32 v;
  742.    bsNEEDR ( n );
  743.    v = (bsBuff >> (bsLive-n)) & ((1 << n)-1);
  744.    bsLive -= n;
  745.    return v;
  746. }
  747.  
  748.  
  749. /*---------------------------------------------*/
  750. INLINE void bsW ( Int32 n, UInt32 v )
  751. {
  752.    bsNEEDW ( n );
  753.    bsBuff |= (v << (32 - bsLive - n));
  754.    bsLive += n;
  755. }
  756.  
  757.  
  758. /*---------------------------------------------*/
  759. UChar bsGetUChar ( void )
  760. {
  761.    return (UChar)bsR(8);
  762. }
  763.  
  764.  
  765. /*---------------------------------------------*/
  766. void bsPutUChar ( UChar c )
  767. {
  768.    bsW(8, (UInt32)c );
  769. }
  770.  
  771.  
  772. /*---------------------------------------------*/
  773. Int32 bsGetUInt32 ( void )
  774. {
  775.    UInt32 u;
  776.    u = 0;
  777.    u = (u << 8) | bsR(8);
  778.    u = (u << 8) | bsR(8);
  779.    u = (u << 8) | bsR(8);
  780.    u = (u << 8) | bsR(8);
  781.    return u;
  782. }
  783.  
  784.  
  785. /*---------------------------------------------*/
  786. UInt32 bsGetIntVS ( UInt32 numBits )
  787. {
  788.    return (UInt32)bsR(numBits);
  789. }
  790.  
  791.  
  792. /*---------------------------------------------*/
  793. UInt32 bsGetInt32 ( void )
  794. {
  795.    return (Int32)bsGetUInt32();
  796. }
  797.  
  798.  
  799. /*---------------------------------------------*/
  800. void bsPutUInt32 ( UInt32 u )
  801. {
  802.    bsW ( 8, (u >> 24) & 0xffL );
  803.    bsW ( 8, (u >> 16) & 0xffL );
  804.    bsW ( 8, (u >>  8) & 0xffL );
  805.    bsW ( 8,  u        & 0xffL );
  806. }
  807.  
  808.  
  809. /*---------------------------------------------*/
  810. void bsPutInt32 ( Int32 c )
  811. {
  812.    bsPutUInt32 ( (UInt32)c );
  813. }
  814.  
  815.  
  816. /*---------------------------------------------*/
  817. void bsPutIntVS ( Int32 numBits, UInt32 c )
  818. {
  819.    bsW ( numBits, c );
  820. }
  821.  
  822.  
  823. /*---------------------------------------------------*/
  824. /*--- Huffman coding low-level stuff              ---*/
  825. /*---------------------------------------------------*/
  826.  
  827. #define WEIGHTOF(zz0)  ((zz0) & 0xffffff00)
  828. #define DEPTHOF(zz1)   ((zz1) & 0x000000ff)
  829. #define MYMAX(zz2,zz3) ((zz2) > (zz3) ? (zz2) : (zz3))
  830.  
  831. #define ADDWEIGHTS(zw1,zw2)                           \
  832.    (WEIGHTOF(zw1)+WEIGHTOF(zw2)) |                    \
  833.    (1 + MYMAX(DEPTHOF(zw1),DEPTHOF(zw2)))
  834.  
  835. #define UPHEAP(z)                                     \
  836. {                                                     \
  837.    Int32 zz, tmp;                                     \
  838.    zz = z; tmp = heap[zz];                            \
  839.    while (weight[tmp] < weight[heap[zz >> 1]]) {      \
  840.       heap[zz] = heap[zz >> 1];                       \
  841.       zz >>= 1;                                       \
  842.    }                                                  \
  843.    heap[zz] = tmp;                                    \
  844. }
  845.  
  846. #define DOWNHEAP(z)                                   \
  847. {                                                     \
  848.    Int32 zz, yy, tmp;                                 \
  849.    zz = z; tmp = heap[zz];                            \
  850.    while (True) {                                     \
  851.       yy = zz << 1;                                   \
  852.       if (yy > nHeap) break;                          \
  853.       if (yy < nHeap &&                               \
  854.           weight[heap[yy+1]] < weight[heap[yy]])      \
  855.          yy++;                                        \
  856.       if (weight[tmp] < weight[heap[yy]]) break;      \
  857.       heap[zz] = heap[yy];                            \
  858.       zz = yy;                                        \
  859.    }                                                  \
  860.    heap[zz] = tmp;                                    \
  861. }
  862.  
  863.  
  864. /*---------------------------------------------*/
  865. void hbMakeCodeLengths ( UChar *len,
  866.                          Int32 *freq,
  867.                          Int32 alphaSize,
  868.                          Int32 maxLen )
  869. {
  870.    /*--
  871.       Nodes and heap entries run from 1.  Entry 0
  872.       for both the heap and nodes is a sentinel.
  873.    --*/
  874.    Int32 nNodes, nHeap, n1, n2, i, j, k;
  875.    Bool  tooLong;
  876.  
  877.    Int32 heap   [ MAX_ALPHA_SIZE + 2 ];
  878.    Int32 weight [ MAX_ALPHA_SIZE * 2 ];
  879.    Int32 parent [ MAX_ALPHA_SIZE * 2 ];
  880.  
  881.    for (i = 0; i < alphaSize; i++)
  882.       weight[i+1] = (freq[i] == 0 ? 1 : freq[i]) << 8;
  883.  
  884.    while (True) {
  885.  
  886.       nNodes = alphaSize;
  887.       nHeap = 0;
  888.  
  889.       heap[0] = 0;
  890.       weight[0] = 0;
  891.       parent[0] = -2;
  892.  
  893.       for (i = 1; i <= alphaSize; i++) {
  894.          parent[i] = -1;
  895.          nHeap++;
  896.          heap[nHeap] = i;
  897.          UPHEAP(nHeap);
  898.       }
  899.       if (!(nHeap < (MAX_ALPHA_SIZE+2)))
  900.          panic ( "hbMakeCodeLengths(1)" );
  901.  
  902.       while (nHeap > 1) {
  903.          n1 = heap[1]; heap[1] = heap[nHeap]; nHeap--; DOWNHEAP(1);
  904.          n2 = heap[1]; heap[1] = heap[nHeap]; nHeap--; DOWNHEAP(1);
  905.          nNodes++;
  906.          parent[n1] = parent[n2] = nNodes;
  907.          weight[nNodes] = ADDWEIGHTS(weight[n1], weight[n2]);
  908.          parent[nNodes] = -1;
  909.          nHeap++;
  910.          heap[nHeap] = nNodes;
  911.          UPHEAP(nHeap);
  912.       }
  913.       if (!(nNodes < (MAX_ALPHA_SIZE * 2)))
  914.          panic ( "hbMakeCodeLengths(2)" );
  915.  
  916.       tooLong = False;
  917.       for (i = 1; i <= alphaSize; i++) {
  918.          j = 0;
  919.          k = i;
  920.          while (parent[k] >= 0) { k = parent[k]; j++; }
  921.          len[i-1] = j;
  922.          if (j > maxLen) tooLong = True;
  923.       }
  924.  
  925.       if (! tooLong) break;
  926.  
  927.       for (i = 1; i < alphaSize; i++) {
  928.          j = weight[i] >> 8;
  929.          j = 1 + (j / 2);
  930.          weight[i] = j << 8;
  931.       }
  932.    }
  933. }
  934.  
  935.  
  936. /*---------------------------------------------*/
  937. void hbAssignCodes ( Int32 *code,
  938.                      UChar *length,
  939.                      Int32 minLen,
  940.                      Int32 maxLen,
  941.                      Int32 alphaSize )
  942. {
  943.    Int32 n, vec, i;
  944.  
  945.    vec = 0;
  946.    for (n = minLen; n <= maxLen; n++) {
  947.       for (i = 0; i < alphaSize; i++)
  948.          if (length[i] == n) { code[i] = vec; vec++; };
  949.       vec <<= 1;
  950.    }
  951. }
  952.  
  953.  
  954. /*---------------------------------------------*/
  955. void hbCreateDecodeTables ( Int32 *limit,
  956.                             Int32 *base,
  957.                             Int32 *perm,
  958.                             UChar *length,
  959.                             Int32 minLen,
  960.                             Int32 maxLen,
  961.                             Int32 alphaSize )
  962. {
  963.    Int32 pp, i, j, vec;
  964.  
  965.    pp = 0;
  966.    for (i = minLen; i <= maxLen; i++)
  967.       for (j = 0; j < alphaSize; j++)
  968.          if (length[j] == i) { perm[pp] = j; pp++; };
  969.  
  970.    for (i = 0; i < MAX_CODE_LEN; i++) base[i] = 0;
  971.    for (i = 0; i < alphaSize; i++) base[length[i]+1]++;
  972.  
  973.    for (i = 1; i < MAX_CODE_LEN; i++) base[i] += base[i-1];
  974.  
  975.    for (i = 0; i < MAX_CODE_LEN; i++) limit[i] = 0;
  976.    vec = 0;
  977.  
  978.    for (i = minLen; i <= maxLen; i++) {
  979.       vec += (base[i+1] - base[i]);
  980.       limit[i] = vec-1;
  981.       vec <<= 1;
  982.    }
  983.    for (i = minLen + 1; i <= maxLen; i++)
  984.       base[i] = ((limit[i-1] + 1) << 1) - base[i];
  985. }
  986.  
  987.  
  988.  
  989. /*---------------------------------------------------*/
  990. /*--- Undoing the reversible transformation       ---*/
  991. /*---------------------------------------------------*/
  992.  
  993. /*---------------------------------------------*/
  994. #define SET_LL4(i,n)                                          \
  995.    { if (((i) & 0x1) == 0)                                    \
  996.         ll4[(i) >> 1] = (ll4[(i) >> 1] & 0xf0) | (n); else    \
  997.         ll4[(i) >> 1] = (ll4[(i) >> 1] & 0x0f) | ((n) << 4);  \
  998.    }
  999.  
  1000. #define GET_LL4(i)                             \
  1001.     (((UInt32)(ll4[(i) >> 1])) >> (((i) << 2) & 0x4) & 0xF)
  1002.  
  1003. #define SET_LL(i,n)                       \
  1004.    { ll16[i] = (UInt16)(n & 0x0000ffff);  \
  1005.      SET_LL4(i, n >> 16);                 \
  1006.    }
  1007.  
  1008. #define GET_LL(i) \
  1009.    (((UInt32)ll16[i]) | (GET_LL4(i) << 16))
  1010.  
  1011.  
  1012. /*---------------------------------------------*/
  1013. /*--
  1014.   Manage memory for compression/decompression.
  1015.   When compressing, a single block size applies to
  1016.   all files processed, and that's set when the
  1017.   program starts.  But when decompressing, each file
  1018.   processed could have been compressed with a
  1019.   different block size, so we may have to free
  1020.   and reallocate on a per-file basis.
  1021.  
  1022.   A call with argument of zero means
  1023.   `free up everything.'  And a value of zero for
  1024.   blockSize100k means no memory is currently allocated.
  1025. --*/
  1026.  
  1027.  
  1028. /*---------------------------------------------*/
  1029. void allocateCompressStructures ( void )
  1030. {
  1031.    Int32 n  = 100000 * blockSize100k;
  1032.    block    = malloc ( (n + 1 + NUM_OVERSHOOT_BYTES) * sizeof(UChar) );
  1033.    quadrant = malloc ( (n     + NUM_OVERSHOOT_BYTES) * sizeof(Int16) );
  1034.    zptr     = malloc ( n                             * sizeof(Int32) );
  1035.    ftab     = malloc ( 65537                         * sizeof(Int32) );
  1036.  
  1037.    if (block == NULL || quadrant == NULL ||
  1038.        zptr == NULL  || ftab == NULL) {
  1039.       Int32 totalDraw
  1040.          = (n + 1 + NUM_OVERSHOOT_BYTES) * sizeof(UChar) +
  1041.            (n     + NUM_OVERSHOOT_BYTES) * sizeof(Int16) +
  1042.            n                             * sizeof(Int32) +
  1043.            65537                         * sizeof(Int32);
  1044.  
  1045.       compressOutOfMemory ( totalDraw, n );
  1046.    }
  1047.  
  1048.    /*--
  1049.       Since we want valid indexes for block of
  1050.       -1 to n + NUM_OVERSHOOT_BYTES - 1
  1051.       inclusive.
  1052.    --*/
  1053.    block++;
  1054.  
  1055.    /*--
  1056.       The back end needs a place to store the MTF values
  1057.       whilst it calculates the coding tables.  We could
  1058.       put them in the zptr array.  However, these values
  1059.       will fit in a short, so we overlay szptr at the
  1060.       start of zptr, in the hope of reducing the number
  1061.       of cache misses induced by the multiple traversals
  1062.       of the MTF values when calculating coding tables.
  1063.       Seems to improve compression speed by about 1%.
  1064.    --*/
  1065.    szptr = (UInt16*)zptr;
  1066. }
  1067.  
  1068.  
  1069. /*---------------------------------------------*/
  1070. void setDecompressStructureSizes ( Int32 newSize100k )
  1071. {
  1072.    if (! (0 <= newSize100k   && newSize100k   <= 9 &&
  1073.           0 <= blockSize100k && blockSize100k <= 9))
  1074.       panic ( "setDecompressStructureSizes" );
  1075.  
  1076.    if (newSize100k == blockSize100k) return;
  1077.  
  1078.    blockSize100k = newSize100k;
  1079.  
  1080.    if (ll16  != NULL) free ( ll16  );
  1081.    if (ll4   != NULL) free ( ll4   );
  1082.    if (ll8   != NULL) free ( ll8   );
  1083.    if (tt    != NULL) free ( tt    );
  1084.  
  1085.    if (newSize100k == 0) return;
  1086.  
  1087.    if (smallMode) {
  1088.  
  1089.       Int32 n = 100000 * newSize100k;
  1090.       ll16    = malloc ( n * sizeof(UInt16) );
  1091.       ll4     = malloc ( ((n+1) >> 1) * sizeof(UChar) );
  1092.  
  1093.       if (ll4 == NULL || ll16 == NULL) {
  1094.          Int32 totalDraw
  1095.             = n * sizeof(Int16) + ((n+1) >> 1) * sizeof(UChar);
  1096.          uncompressOutOfMemory ( totalDraw, n );
  1097.       }
  1098.  
  1099.    } else {
  1100.  
  1101.       Int32 n = 100000 * newSize100k;
  1102.       ll8     = malloc ( n * sizeof(UChar) );
  1103.       tt      = malloc ( n * sizeof(Int32) );
  1104.  
  1105.       if (ll8 == NULL || tt == NULL) {
  1106.          Int32 totalDraw
  1107.             = n * sizeof(UChar) + n * sizeof(UInt32);
  1108.          uncompressOutOfMemory ( totalDraw, n );
  1109.       }
  1110.  
  1111.    }
  1112. }
  1113.  
  1114.  
  1115.  
  1116. /*---------------------------------------------------*/
  1117. /*--- The new back end                            ---*/
  1118. /*---------------------------------------------------*/
  1119.  
  1120. /*---------------------------------------------*/
  1121. void makeMaps ( void )
  1122. {
  1123.    Int32 i;
  1124.    nInUse = 0;
  1125.    for (i = 0; i < 256; i++)
  1126.       if (inUse[i]) {
  1127.          seqToUnseq[nInUse] = i;
  1128.          unseqToSeq[i] = nInUse;
  1129.          nInUse++;
  1130.       }
  1131. }
  1132.  
  1133.  
  1134. /*---------------------------------------------*/
  1135. void generateMTFValues ( void )
  1136. {
  1137.    UChar  yy[256];
  1138.    Int32  i, j;
  1139.    UChar  tmp;
  1140.    UChar  tmp2;
  1141.    Int32  zPend;
  1142.    Int32  wr;
  1143.    Int32  EOB;
  1144.  
  1145.    makeMaps();
  1146.    EOB = nInUse+1;
  1147.  
  1148.    for (i = 0; i <= EOB; i++) mtfFreq[i] = 0;
  1149.  
  1150.    wr = 0;
  1151.    zPend = 0;
  1152.    for (i = 0; i < nInUse; i++) yy[i] = (UChar) i;
  1153.  
  1154.  
  1155.    for (i = 0; i <= last; i++) {
  1156.       UChar ll_i;
  1157.  
  1158.       #if DEBUG
  1159.          assert (wr <= i);
  1160.       #endif
  1161.  
  1162.       ll_i = unseqToSeq[block[zptr[i] - 1]];
  1163.       #if DEBUG
  1164.          assert (ll_i < nInUse);
  1165.       #endif
  1166.  
  1167.       j = 0;
  1168.       tmp = yy[j];
  1169.       while ( ll_i != tmp ) {
  1170.          j++;
  1171.          tmp2 = tmp;
  1172.          tmp = yy[j];
  1173.          yy[j] = tmp2;
  1174.       };
  1175.       yy[0] = tmp;
  1176.  
  1177.       if (j == 0) {
  1178.          zPend++;
  1179.       } else {
  1180.          if (zPend > 0) {
  1181.             zPend--;
  1182.             while (True) {
  1183.                switch (zPend % 2) {
  1184.                   case 0: szptr[wr] = RUNA; wr++; mtfFreq[RUNA]++; break;
  1185.                   case 1: szptr[wr] = RUNB; wr++; mtfFreq[RUNB]++; break;
  1186.                };
  1187.                if (zPend < 2) break;
  1188.                zPend = (zPend - 2) / 2;
  1189.             };
  1190.             zPend = 0;
  1191.          }
  1192.          szptr[wr] = j+1; wr++; mtfFreq[j+1]++;
  1193.       }
  1194.    }
  1195.  
  1196.    if (zPend > 0) {
  1197.       zPend--;
  1198.       while (True) {
  1199.          switch (zPend % 2) {
  1200.             case 0:  szptr[wr] = RUNA; wr++; mtfFreq[RUNA]++; break;
  1201.             case 1:  szptr[wr] = RUNB; wr++; mtfFreq[RUNB]++; break;
  1202.          };
  1203.          if (zPend < 2) break;
  1204.          zPend = (zPend - 2) / 2;
  1205.       };
  1206.    }
  1207.  
  1208.    szptr[wr] = EOB; wr++; mtfFreq[EOB]++;
  1209.  
  1210.    nMTF = wr;
  1211. }
  1212.  
  1213.  
  1214. /*---------------------------------------------*/
  1215. #define LESSER_ICOST  0
  1216. #define GREATER_ICOST 15
  1217.  
  1218. void sendMTFValues ( void )
  1219. {
  1220.    Int32 v, t, i, j, gs, ge, totc, bt, bc, iter;
  1221.    Int32 nSelectors, alphaSize, minLen, maxLen, selCtr;
  1222.    Int32 nGroups, nBytes;
  1223.  
  1224.    /*--
  1225.    UChar  len [N_GROUPS][MAX_ALPHA_SIZE];
  1226.    is a global since the decoder also needs it.
  1227.  
  1228.    Int32  code[N_GROUPS][MAX_ALPHA_SIZE];
  1229.    Int32  rfreq[N_GROUPS][MAX_ALPHA_SIZE];
  1230.    are also globals only used in this proc.
  1231.    Made global to keep stack frame size small.
  1232.    --*/
  1233.  
  1234.  
  1235.    UInt16 cost[N_GROUPS];
  1236.    Int32  fave[N_GROUPS];
  1237.  
  1238.    if (verbosity >= 3)
  1239.       fprintf ( stderr,
  1240.                 "      %d in block, %d after MTF & 1-2 coding, %d+2 syms in use\n",
  1241.                 last+1, nMTF, nInUse );
  1242.  
  1243.    alphaSize = nInUse+2;
  1244.    for (t = 0; t < N_GROUPS; t++)
  1245.       for (v = 0; v < alphaSize; v++)
  1246.          len[t][v] = GREATER_ICOST;
  1247.  
  1248.    /*--- Decide how many coding tables to use ---*/
  1249.    if (nMTF <= 0) panic ( "sendMTFValues(0)" );
  1250.    if (nMTF < 200) nGroups = 2; else
  1251.    if (nMTF < 800) nGroups = 4; else
  1252.                    nGroups = 6;
  1253.  
  1254.    /*--- Generate an initial set of coding tables ---*/
  1255.    {
  1256.       Int32 nPart, remF, tFreq, aFreq;
  1257.  
  1258.       nPart = nGroups;
  1259.       remF  = nMTF;
  1260.       gs = 0;
  1261.       while (nPart > 0) {
  1262.          tFreq = remF / nPart;
  1263.          ge = gs-1;
  1264.          aFreq = 0;
  1265.          while (aFreq < tFreq && ge < alphaSize-1) {
  1266.             ge++;
  1267.             aFreq += mtfFreq[ge];
  1268.          }
  1269.  
  1270.          if (ge > gs
  1271.              && nPart != nGroups && nPart != 1
  1272.              && ((nGroups-nPart) % 2 == 1)) {
  1273.             aFreq -= mtfFreq[ge];
  1274.             ge--;
  1275.          }
  1276.  
  1277.          if (verbosity >= 3)
  1278.             fprintf ( stderr,
  1279.                       "      initial group %d, [%d .. %d], has %d syms (%4.1f%%)\n",
  1280.                               nPart, gs, ge, aFreq,
  1281.                               (100.0 * (float)aFreq) / (float)nMTF );
  1282.  
  1283.          for (v = 0; v < alphaSize; v++)
  1284.             if (v >= gs && v <= ge)
  1285.                len[nPart-1][v] = LESSER_ICOST; else
  1286.                len[nPart-1][v] = GREATER_ICOST;
  1287.  
  1288.          nPart--;
  1289.          gs = ge+1;
  1290.          remF -= aFreq;
  1291.       }
  1292.    }
  1293.  
  1294.    /*---
  1295.       Iterate up to N_ITERS times to improve the tables.
  1296.    ---*/
  1297.    for (iter = 0; iter < N_ITERS; iter++) {
  1298.  
  1299.       for (t = 0; t < nGroups; t++) fave[t] = 0;
  1300.  
  1301.       for (t = 0; t < nGroups; t++)
  1302.          for (v = 0; v < alphaSize; v++)
  1303.             rfreq[t][v] = 0;
  1304.  
  1305.       nSelectors = 0;
  1306.       totc = 0;
  1307.       gs = 0;
  1308.       while (True) {
  1309.  
  1310.          /*--- Set group start & end marks. --*/
  1311.          if (gs >= nMTF) break;
  1312.          ge = gs + G_SIZE - 1;
  1313.          if (ge >= nMTF) ge = nMTF-1;
  1314.  
  1315.          /*--
  1316.             Calculate the cost of this group as coded
  1317.             by each of the coding tables.
  1318.          --*/
  1319.          for (t = 0; t < nGroups; t++) cost[t] = 0;
  1320.  
  1321.          if (nGroups == 6) {
  1322.             register UInt16 cost0, cost1, cost2, cost3, cost4, cost5;
  1323.             cost0 = cost1 = cost2 = cost3 = cost4 = cost5 = 0;
  1324.             for (i = gs; i <= ge; i++) {
  1325.                UInt16 icv = szptr[i];
  1326.                cost0 += len[0][icv];
  1327.                cost1 += len[1][icv];
  1328.                cost2 += len[2][icv];
  1329.                cost3 += len[3][icv];
  1330.                cost4 += len[4][icv];
  1331.                cost5 += len[5][icv];
  1332.             }
  1333.             cost[0] = cost0; cost[1] = cost1; cost[2] = cost2;
  1334.             cost[3] = cost3; cost[4] = cost4; cost[5] = cost5;
  1335.          } else {
  1336.             for (i = gs; i <= ge; i++) {
  1337.                UInt16 icv = szptr[i];
  1338.                for (t = 0; t < nGroups; t++) cost[t] += len[t][icv];
  1339.             }
  1340.          }
  1341.  
  1342.          /*--
  1343.             Find the coding table which is best for this group,
  1344.             and record its identity in the selector table.
  1345.          --*/
  1346.          bc = 999999999; bt = -1;
  1347.          for (t = 0; t < nGroups; t++)
  1348.             if (cost[t] < bc) { bc = cost[t]; bt = t; };
  1349.          totc += bc;
  1350.          fave[bt]++;
  1351.          selector[nSelectors] = bt;
  1352.          nSelectors++;
  1353.  
  1354.          /*--
  1355.             Increment the symbol frequencies for the selected table.
  1356.           --*/
  1357.          for (i = gs; i <= ge; i++)
  1358.             rfreq[bt][ szptr[i] ]++;
  1359.  
  1360.          gs = ge+1;
  1361.       }
  1362.       if (verbosity >= 3) {
  1363.          fprintf ( stderr,
  1364.                    "      pass %d: size is %d, grp uses are ",
  1365.                    iter+1, totc/8 );
  1366.          for (t = 0; t < nGroups; t++)
  1367.             fprintf ( stderr, "%d ", fave[t] );
  1368.          fprintf ( stderr, "\n" );
  1369.       }
  1370.  
  1371.       /*--
  1372.         Recompute the tables based on the accumulated frequencies.
  1373.       --*/
  1374.       for (t = 0; t < nGroups; t++)
  1375.          hbMakeCodeLengths ( &len[t][0], &rfreq[t][0], alphaSize, 20 );
  1376.    }
  1377.  
  1378.  
  1379.    if (!(nGroups < 8)) panic ( "sendMTFValues(1)" );
  1380.    if (!(nSelectors < 32768 &&
  1381.          nSelectors <= (2 + (900000 / G_SIZE))))
  1382.                        panic ( "sendMTFValues(2)" );
  1383.  
  1384.  
  1385.    /*--- Compute MTF values for the selectors. ---*/
  1386.    {
  1387.       UChar pos[N_GROUPS], ll_i, tmp2, tmp;
  1388.       for (i = 0; i < nGroups; i++) pos[i] = i;
  1389.       for (i = 0; i < nSelectors; i++) {
  1390.          ll_i = selector[i];
  1391.          j = 0;
  1392.          tmp = pos[j];
  1393.          while ( ll_i != tmp ) {
  1394.             j++;
  1395.             tmp2 = tmp;
  1396.             tmp = pos[j];
  1397.             pos[j] = tmp2;
  1398.          };
  1399.          pos[0] = tmp;
  1400.          selectorMtf[i] = j;
  1401.       }
  1402.    };
  1403.  
  1404.    /*--- Assign actual codes for the tables. --*/
  1405.    for (t = 0; t < nGroups; t++) {
  1406.       minLen = 32;
  1407.       maxLen = 0;
  1408.       for (i = 0; i < alphaSize; i++) {
  1409.          if (len[t][i] > maxLen) maxLen = len[t][i];
  1410.          if (len[t][i] < minLen) minLen = len[t][i];
  1411.       }
  1412.       if (maxLen > 20) panic ( "sendMTFValues(3)" );
  1413.       if (minLen < 1)  panic ( "sendMTFValues(4)" );
  1414.       hbAssignCodes ( &code[t][0], &len[t][0],
  1415.                       minLen, maxLen, alphaSize );
  1416.    }
  1417.  
  1418.    /*--- Transmit the mapping table. ---*/
  1419.    {
  1420.       Bool inUse16[16];
  1421.       for (i = 0; i < 16; i++) {
  1422.           inUse16[i] = False;
  1423.           for (j = 0; j < 16; j++)
  1424.              if (inUse[i * 16 + j]) inUse16[i] = True;
  1425.       }
  1426.  
  1427.       nBytes = bytesOut;
  1428.       for (i = 0; i < 16; i++)
  1429.          if (inUse16[i]) bsW(1,1); else bsW(1,0);
  1430.  
  1431.       for (i = 0; i < 16; i++)
  1432.          if (inUse16[i])
  1433.             for (j = 0; j < 16; j++)
  1434.                if (inUse[i * 16 + j]) bsW(1,1); else bsW(1,0);
  1435.  
  1436.       if (verbosity >= 3)
  1437.          fprintf ( stderr, "      bytes: mapping %d, ", bytesOut-nBytes );
  1438.    }
  1439.  
  1440.    /*--- Now the selectors. ---*/
  1441.    nBytes = bytesOut;
  1442.    bsW ( 3, nGroups );
  1443.    bsW ( 15, nSelectors );
  1444.    for (i = 0; i < nSelectors; i++) {
  1445.       for (j = 0; j < selectorMtf[i]; j++) bsW(1,1);
  1446.       bsW(1,0);
  1447.    }
  1448.    if (verbosity >= 3)
  1449.       fprintf ( stderr, "selectors %d, ", bytesOut-nBytes );
  1450.  
  1451.    /*--- Now the coding tables. ---*/
  1452.    nBytes = bytesOut;
  1453.  
  1454.    for (t = 0; t < nGroups; t++) {
  1455.       Int32 curr = len[t][0];
  1456.       bsW ( 5, curr );
  1457.       for (i = 0; i < alphaSize; i++) {
  1458.          while (curr < len[t][i]) { bsW(2,2); curr++; /* 10 */ };
  1459.          while (curr > len[t][i]) { bsW(2,3); curr--; /* 11 */ };
  1460.          bsW ( 1, 0 );
  1461.       }
  1462.    }
  1463.  
  1464.    if (verbosity >= 3)
  1465.       fprintf ( stderr, "code lengths %d, ", bytesOut-nBytes );
  1466.  
  1467.    /*--- And finally, the block data proper ---*/
  1468.    nBytes = bytesOut;
  1469.    selCtr = 0;
  1470.    gs = 0;
  1471.    while (True) {
  1472.       if (gs >= nMTF) break;
  1473.       ge = gs + G_SIZE - 1;
  1474.       if (ge >= nMTF) ge = nMTF-1;
  1475.       for (i = gs; i <= ge; i++) {
  1476.          #if DEBUG
  1477.             assert (selector[selCtr] < nGroups);
  1478.          #endif
  1479.          bsW ( len  [selector[selCtr]] [szptr[i]],
  1480.                code [selector[selCtr]] [szptr[i]] );
  1481.       }
  1482.  
  1483.       gs = ge+1;
  1484.       selCtr++;
  1485.    }
  1486.    if (!(selCtr == nSelectors)) panic ( "sendMTFValues(5)" );
  1487.  
  1488.    if (verbosity >= 3)
  1489.       fprintf ( stderr, "codes %d\n", bytesOut-nBytes );
  1490. }
  1491.  
  1492.  
  1493. /*---------------------------------------------*/
  1494. void moveToFrontCodeAndSend ( void )
  1495. {
  1496.    bsPutIntVS ( 24, origPtr );
  1497.    generateMTFValues();
  1498.    sendMTFValues();
  1499. }
  1500.  
  1501.  
  1502. /*---------------------------------------------*/
  1503. void recvDecodingTables ( void )
  1504. {
  1505.    Int32 i, j, t, nGroups, nSelectors, alphaSize;
  1506.    Int32 minLen, maxLen;
  1507.    Bool inUse16[16];
  1508.  
  1509.    /*--- Receive the mapping table ---*/
  1510.    for (i = 0; i < 16; i++)
  1511.       if (bsR(1) == 1)
  1512.          inUse16[i] = True; else
  1513.          inUse16[i] = False;
  1514.  
  1515.    for (i = 0; i < 256; i++) inUse[i] = False;
  1516.  
  1517.    for (i = 0; i < 16; i++)
  1518.       if (inUse16[i])
  1519.          for (j = 0; j < 16; j++)
  1520.             if (bsR(1) == 1) inUse[i * 16 + j] = True;
  1521.  
  1522.    makeMaps();
  1523.    alphaSize = nInUse+2;
  1524.  
  1525.    /*--- Now the selectors ---*/
  1526.    nGroups = bsR ( 3 );
  1527.    nSelectors = bsR ( 15 );
  1528.    for (i = 0; i < nSelectors; i++) {
  1529.       j = 0;
  1530.       while (bsR(1) == 1) j++;
  1531.       selectorMtf[i] = j;
  1532.    }
  1533.  
  1534.    /*--- Undo the MTF values for the selectors. ---*/
  1535.    {
  1536.       UChar pos[N_GROUPS], tmp, v;
  1537.       for (v = 0; v < nGroups; v++) pos[v] = v;
  1538.  
  1539.       for (i = 0; i < nSelectors; i++) {
  1540.          v = selectorMtf[i];
  1541.          tmp = pos[v];
  1542.          while (v > 0) { pos[v] = pos[v-1]; v--; }
  1543.          pos[0] = tmp;
  1544.          selector[i] = tmp;
  1545.       }
  1546.    }
  1547.  
  1548.    /*--- Now the coding tables ---*/
  1549.    for (t = 0; t < nGroups; t++) {
  1550.       Int32 curr = bsR ( 5 );
  1551.       for (i = 0; i < alphaSize; i++) {
  1552.          while (bsR(1) == 1) {
  1553.             if (bsR(1) == 0) curr++; else curr--;
  1554.          }
  1555.          len[t][i] = curr;
  1556.       }
  1557.    }
  1558.  
  1559.    /*--- Create the Huffman decoding tables ---*/
  1560.    for (t = 0; t < nGroups; t++) {
  1561.       minLen = 32;
  1562.       maxLen = 0;
  1563.       for (i = 0; i < alphaSize; i++) {
  1564.          if (len[t][i] > maxLen) maxLen = len[t][i];
  1565.          if (len[t][i] < minLen) minLen = len[t][i];
  1566.       }
  1567.       hbCreateDecodeTables (
  1568.          &limit[t][0], &base[t][0], &perm[t][0], &len[t][0],
  1569.          minLen, maxLen, alphaSize
  1570.       );
  1571.       minLens[t] = minLen;
  1572.    }
  1573. }
  1574.  
  1575.  
  1576. /*---------------------------------------------*/
  1577. #define GET_MTF_VAL(lval)                 \
  1578. {                                         \
  1579.    Int32 zt, zn, zvec, zj;                \
  1580.    if (groupPos == 0) {                   \
  1581.       groupNo++;                          \
  1582.       groupPos = G_SIZE;                  \
  1583.    }                                      \
  1584.    groupPos--;                            \
  1585.    zt = selector[groupNo];                \
  1586.    zn = minLens[zt];                      \
  1587.    zvec = bsR ( zn );                     \
  1588.    while (zvec > limit[zt][zn]) {         \
  1589.       zn++; bsR1(zj);                     \
  1590.       zvec = (zvec << 1) | zj;            \
  1591.    };                                     \
  1592.    lval = perm[zt][zvec - base[zt][zn]];  \
  1593. }
  1594.  
  1595.  
  1596. /*---------------------------------------------*/
  1597. void getAndMoveToFrontDecode ( void )
  1598. {
  1599.    UChar  yy[256];
  1600.    Int32  i, j, nextSym, limitLast;
  1601.    Int32  EOB, groupNo, groupPos;
  1602.  
  1603.    limitLast = 100000 * blockSize100k;
  1604.    origPtr   = bsGetIntVS ( 24 );
  1605.  
  1606.    recvDecodingTables();
  1607.    EOB      = nInUse+1;
  1608.    groupNo  = -1;
  1609.    groupPos = 0;
  1610.  
  1611.    /*--
  1612.       Setting up the unzftab entries here is not strictly
  1613.       necessary, but it does save having to do it later
  1614.       in a separate pass, and so saves a block's worth of
  1615.       cache misses.
  1616.    --*/
  1617.    for (i = 0; i <= 255; i++) unzftab[i] = 0;
  1618.  
  1619.    for (i = 0; i <= 255; i++) yy[i] = (UChar) i;
  1620.  
  1621.    last = -1;
  1622.  
  1623.    GET_MTF_VAL(nextSym);
  1624.  
  1625.    while (True) {
  1626.  
  1627.       if (nextSym == EOB) break;
  1628.  
  1629.       if (nextSym == RUNA || nextSym == RUNB) {
  1630.          UChar ch;
  1631.          Int32 s = -1;
  1632.          Int32 N = 1;
  1633.          do {
  1634.             if (nextSym == RUNA) s = s + (0+1) * N; else
  1635.             if (nextSym == RUNB) s = s + (1+1) * N;
  1636.             N = N * 2;
  1637.             GET_MTF_VAL(nextSym);
  1638.          }
  1639.             while (nextSym == RUNA || nextSym == RUNB);
  1640.  
  1641.          s++;
  1642.          ch = seqToUnseq[yy[0]];
  1643.          unzftab[ch] += s;
  1644.  
  1645.          if (smallMode)
  1646.             while (s > 0) {
  1647.                last++;
  1648.                ll16[last] = ch;
  1649.                s--;
  1650.             }
  1651.          else
  1652.             while (s > 0) {
  1653.                last++;
  1654.                ll8[last] = ch;
  1655.                s--;
  1656.             };
  1657.  
  1658.          if (last >= limitLast) blockOverrun();
  1659.          continue;
  1660.  
  1661.       } else {
  1662.  
  1663.          UChar tmp;
  1664.          last++; if (last >= limitLast) blockOverrun();
  1665.  
  1666.          tmp = yy[nextSym-1];
  1667.          unzftab[seqToUnseq[tmp]]++;
  1668.          if (smallMode)
  1669.             ll16[last] = seqToUnseq[tmp]; else
  1670.             ll8[last]  = seqToUnseq[tmp];
  1671.  
  1672.          /*--
  1673.             This loop is hammered during decompression,
  1674.             hence the unrolling.
  1675.  
  1676.             for (j = nextSym-1; j > 0; j--) yy[j] = yy[j-1];
  1677.          --*/
  1678.  
  1679.          j = nextSym-1;
  1680.          for (; j > 3; j -= 4) {
  1681.             yy[j]   = yy[j-1];
  1682.             yy[j-1] = yy[j-2];
  1683.             yy[j-2] = yy[j-3];
  1684.             yy[j-3] = yy[j-4];
  1685.          }
  1686.          for (; j > 0; j--) yy[j] = yy[j-1];
  1687.  
  1688.          yy[0] = tmp;
  1689.          GET_MTF_VAL(nextSym);
  1690.          continue;
  1691.       }
  1692.    }
  1693. }
  1694.  
  1695.  
  1696. /*---------------------------------------------------*/
  1697. /*--- Block-sorting machinery                     ---*/
  1698. /*---------------------------------------------------*/
  1699.  
  1700. /*---------------------------------------------*/
  1701. /*--
  1702.   Compare two strings in block.  We assume (see
  1703.   discussion above) that i1 and i2 have a max
  1704.   offset of 10 on entry, and that the first
  1705.   bytes of both block and quadrant have been
  1706.   copied into the "overshoot area", ie
  1707.   into the subscript range
  1708.   [last+1 .. last+NUM_OVERSHOOT_BYTES].
  1709. --*/
  1710. INLINE Bool fullGtU ( Int32 i1, Int32 i2 )
  1711. {
  1712.    Int32 k;
  1713.    UChar c1, c2;
  1714.    UInt16 s1, s2;
  1715.  
  1716.    #if DEBUG
  1717.       /*--
  1718.         shellsort shouldn't ask to compare
  1719.         something with itself.
  1720.       --*/
  1721.       assert (i1 != i2);
  1722.    #endif
  1723.  
  1724.    c1 = block[i1];
  1725.    c2 = block[i2];
  1726.    if (c1 != c2) return (c1 > c2);
  1727.    i1++; i2++;
  1728.  
  1729.    c1 = block[i1];
  1730.    c2 = block[i2];
  1731.    if (c1 != c2) return (c1 > c2);
  1732.    i1++; i2++;
  1733.  
  1734.    c1 = block[i1];
  1735.    c2 = block[i2];
  1736.    if (c1 != c2) return (c1 > c2);
  1737.    i1++; i2++;
  1738.  
  1739.    c1 = block[i1];
  1740.    c2 = block[i2];
  1741.    if (c1 != c2) return (c1 > c2);
  1742.    i1++; i2++;
  1743.  
  1744.    c1 = block[i1];
  1745.    c2 = block[i2];
  1746.    if (c1 != c2) return (c1 > c2);
  1747.    i1++; i2++;
  1748.  
  1749.    c1 = block[i1];
  1750.    c2 = block[i2];
  1751.    if (c1 != c2) return (c1 > c2);
  1752.    i1++; i2++;
  1753.  
  1754.    k = last + 1;
  1755.  
  1756.    do {
  1757.  
  1758.       c1 = block[i1];
  1759.       c2 = block[i2];
  1760.       if (c1 != c2) return (c1 > c2);
  1761.       s1 = quadrant[i1];
  1762.       s2 = quadrant[i2];
  1763.       if (s1 != s2) return (s1 > s2);
  1764.       i1++; i2++;
  1765.  
  1766.       c1 = block[i1];
  1767.       c2 = block[i2];
  1768.       if (c1 != c2) return (c1 > c2);
  1769.       s1 = quadrant[i1];
  1770.       s2 = quadrant[i2];
  1771.       if (s1 != s2) return (s1 > s2);
  1772.       i1++; i2++;
  1773.  
  1774.       c1 = block[i1];
  1775.       c2 = block[i2];
  1776.       if (c1 != c2) return (c1 > c2);
  1777.       s1 = quadrant[i1];
  1778.       s2 = quadrant[i2];
  1779.       if (s1 != s2) return (s1 > s2);
  1780.       i1++; i2++;
  1781.  
  1782.       c1 = block[i1];
  1783.       c2 = block[i2];
  1784.       if (c1 != c2) return (c1 > c2);
  1785.       s1 = quadrant[i1];
  1786.       s2 = quadrant[i2];
  1787.       if (s1 != s2) return (s1 > s2);
  1788.       i1++; i2++;
  1789.  
  1790.       if (i1 > last) { i1 -= last; i1--; };
  1791.       if (i2 > last) { i2 -= last; i2--; };
  1792.  
  1793.       k -= 4;
  1794.       workDone++;
  1795.    }
  1796.       while (k >= 0);
  1797.  
  1798.    return False;
  1799. }
  1800.  
  1801. /*---------------------------------------------*/
  1802. /*--
  1803.    Knuth's increments seem to work better
  1804.    than Incerpi-Sedgewick here.  Possibly
  1805.    because the number of elems to sort is
  1806.    usually small, typically <= 20.
  1807. --*/
  1808. Int32 incs[14] = { 1, 4, 13, 40, 121, 364, 1093, 3280,
  1809.                    9841, 29524, 88573, 265720,
  1810.                    797161, 2391484 };
  1811.  
  1812. void simpleSort ( Int32 lo, Int32 hi, Int32 d )
  1813. {
  1814.    Int32 i, j, h, bigN, hp;
  1815.    Int32 v;
  1816.  
  1817.    bigN = hi - lo + 1;
  1818.    if (bigN < 2) return;
  1819.  
  1820.    hp = 0;
  1821.    while (incs[hp] < bigN) hp++;
  1822.    hp--;
  1823.  
  1824.    for (; hp >= 0; hp--) {
  1825.       h = incs[hp];
  1826.       if (verbosity >= 5)
  1827.          fprintf ( stderr, "          shell increment %d\n", h );
  1828.  
  1829.       i = lo + h;
  1830.       while (True) {
  1831.  
  1832.          /*-- copy 1 --*/
  1833.          if (i > hi) break;
  1834.          v = zptr[i];
  1835.          j = i;
  1836.          while ( fullGtU ( zptr[j-h]+d, v+d ) ) {
  1837.             zptr[j] = zptr[j-h];
  1838.             j = j - h;
  1839.             if (j <= (lo + h - 1)) break;
  1840.          }
  1841.          zptr[j] = v;
  1842.          i++;
  1843.  
  1844.          /*-- copy 2 --*/
  1845.          if (i > hi) break;
  1846.          v = zptr[i];
  1847.          j = i;
  1848.          while ( fullGtU ( zptr[j-h]+d, v+d ) ) {
  1849.             zptr[j] = zptr[j-h];
  1850.             j = j - h;
  1851.             if (j <= (lo + h - 1)) break;
  1852.          }
  1853.          zptr[j] = v;
  1854.          i++;
  1855.  
  1856.          /*-- copy 3 --*/
  1857.          if (i > hi) break;
  1858.          v = zptr[i];
  1859.          j = i;
  1860.          while ( fullGtU ( zptr[j-h]+d, v+d ) ) {
  1861.             zptr[j] = zptr[j-h];
  1862.             j = j - h;
  1863.             if (j <= (lo + h - 1)) break;
  1864.          }
  1865.          zptr[j] = v;
  1866.          i++;
  1867.  
  1868.          if (workDone > workLimit && firstAttempt) return;
  1869.       }
  1870.    }
  1871. }
  1872.  
  1873.  
  1874. /*---------------------------------------------*/
  1875. /*--
  1876.    The following is an implementation of
  1877.    an elegant 3-way quicksort for strings,
  1878.    described in a paper "Fast Algorithms for
  1879.    Sorting and Searching Strings", by Robert
  1880.    Sedgewick and Jon L. Bentley.
  1881. --*/
  1882.  
  1883. #define swap(lv1, lv2) \
  1884.    { Int32 tmp = lv1; lv1 = lv2; lv2 = tmp; }
  1885.  
  1886. INLINE void vswap ( Int32 p1, Int32 p2, Int32 n )
  1887. {
  1888.    while (n > 0) {
  1889.       swap(zptr[p1], zptr[p2]);
  1890.       p1++; p2++; n--;
  1891.    }
  1892. }
  1893.  
  1894. INLINE UChar med3 ( UChar a, UChar b, UChar c )
  1895. {
  1896.    UChar t;
  1897.    if (a > b) { t = a; a = b; b = t; };
  1898.    if (b > c) { t = b; b = c; c = t; };
  1899.    if (a > b)          b = a;
  1900.    return b;
  1901. }
  1902.  
  1903.  
  1904. #define min(a,b) ((a) < (b)) ? (a) : (b)
  1905.  
  1906. typedef
  1907.    struct { Int32 ll; Int32 hh; Int32 dd; }
  1908.    StackElem;
  1909.  
  1910. #define push(lz,hz,dz) { stack[sp].ll = lz; \
  1911.                          stack[sp].hh = hz; \
  1912.                          stack[sp].dd = dz; \
  1913.                          sp++; }
  1914.  
  1915. #define pop(lz,hz,dz) { sp--;               \
  1916.                         lz = stack[sp].ll;  \
  1917.                         hz = stack[sp].hh;  \
  1918.                         dz = stack[sp].dd; }
  1919.  
  1920. #define SMALL_THRESH 20
  1921. #define DEPTH_THRESH 10
  1922.  
  1923. /*--
  1924.    If you are ever unlucky/improbable enough
  1925.    to get a stack overflow whilst sorting,
  1926.    increase the following constant and try
  1927.    again.  In practice I have never seen the
  1928.    stack go above 27 elems, so the following
  1929.    limit seems very generous.
  1930. --*/
  1931. #define QSORT_STACK_SIZE 1000
  1932.  
  1933.  
  1934. void qSort3 ( Int32 loSt, Int32 hiSt, Int32 dSt )
  1935. {
  1936.    Int32 unLo, unHi, ltLo, gtHi, med, n, m;
  1937.    Int32 sp, lo, hi, d;
  1938.    StackElem stack[QSORT_STACK_SIZE];
  1939.  
  1940.    sp = 0;
  1941.    push ( loSt, hiSt, dSt );
  1942.  
  1943.    while (sp > 0) {
  1944.  
  1945.       if (sp >= QSORT_STACK_SIZE) panic ( "stack overflow in qSort3" );
  1946.  
  1947.       pop ( lo, hi, d );
  1948.  
  1949.       if (hi - lo < SMALL_THRESH || d > DEPTH_THRESH) {
  1950.          simpleSort ( lo, hi, d );
  1951.          if (workDone > workLimit && firstAttempt) return;
  1952.          continue;
  1953.       }
  1954.  
  1955.       med = med3 ( block[zptr[ lo         ]+d],
  1956.                    block[zptr[ hi         ]+d],
  1957.                    block[zptr[ (lo+hi)>>1 ]+d] );
  1958.  
  1959.       unLo = ltLo = lo;
  1960.       unHi = gtHi = hi;
  1961.  
  1962.       while (True) {
  1963.          while (True) {
  1964.             if (unLo > unHi) break;
  1965.             n = ((Int32)block[zptr[unLo]+d]) - med;
  1966.             if (n == 0) { swap(zptr[unLo], zptr[ltLo]); ltLo++; unLo++; continue; };
  1967.             if (n >  0) break;
  1968.             unLo++;
  1969.          }
  1970.          while (True) {
  1971.             if (unLo > unHi) break;
  1972.             n = ((Int32)block[zptr[unHi]+d]) - med;
  1973.             if (n == 0) { swap(zptr[unHi], zptr[gtHi]); gtHi--; unHi--; continue; };
  1974.             if (n <  0) break;
  1975.             unHi--;
  1976.          }
  1977.          if (unLo > unHi) break;
  1978.          swap(zptr[unLo], zptr[unHi]); unLo++; unHi--;
  1979.       }
  1980.       #if DEBUG
  1981.          assert (unHi == unLo-1);
  1982.       #endif
  1983.  
  1984.       if (gtHi < ltLo) {
  1985.          push(lo, hi, d+1 );
  1986.          continue;
  1987.       }
  1988.  
  1989.       n = min(ltLo-lo, unLo-ltLo); vswap(lo, unLo-n, n);
  1990.       m = min(hi-gtHi, gtHi-unHi); vswap(unLo, hi-m+1, m);
  1991.  
  1992.       n = lo + unLo - ltLo - 1;
  1993.       m = hi - (gtHi - unHi) + 1;
  1994.  
  1995.       push ( lo, n, d );
  1996.       push ( n+1, m-1, d+1 );
  1997.       push ( m, hi, d );
  1998.    }
  1999. }
  2000.  
  2001.  
  2002. /*---------------------------------------------*/
  2003.  
  2004. #define BIGFREQ(b) (ftab[((b)+1) << 8] - ftab[(b) << 8])
  2005.  
  2006. #define SETMASK (1 << 21)
  2007. #define CLEARMASK (~(SETMASK))
  2008.  
  2009. void sortIt ( void )
  2010. {
  2011.    Int32 i, j, ss, sb;
  2012.    Int32 runningOrder[256];
  2013.    Int32 copy[256];
  2014.    Bool bigDone[256];
  2015.    UChar c1, c2;
  2016.    Int32 numQSorted;
  2017.  
  2018.    /*--
  2019.       In the various block-sized structures, live data runs
  2020.       from 0 to last+NUM_OVERSHOOT_BYTES inclusive.  First,
  2021.       set up the overshoot area for block.
  2022.    --*/
  2023.  
  2024.    if (verbosity >= 4) fprintf ( stderr, "        sort initialise ...\n" );
  2025.    for (i = 0; i < NUM_OVERSHOOT_BYTES; i++)
  2026.        block[last+i+1] = block[i % (last+1)];
  2027.    for (i = 0; i <= last+NUM_OVERSHOOT_BYTES; i++)
  2028.        quadrant[i] = 0;
  2029.  
  2030.    block[-1] = block[last];
  2031.  
  2032.    if (last < 4000) {
  2033.  
  2034.       /*--
  2035.          Use simpleSort(), since the full sorting mechanism
  2036.          has quite a large constant overhead.
  2037.       --*/
  2038.       if (verbosity >= 4) fprintf ( stderr, "        simpleSort ...\n" );
  2039.       for (i = 0; i <= last; i++) zptr[i] = i;
  2040.       firstAttempt = False;
  2041.       workDone = workLimit = 0;
  2042.       simpleSort ( 0, last, 0 );
  2043.       if (verbosity >= 4) fprintf ( stderr, "        simpleSort done.\n" );
  2044.  
  2045.    } else {
  2046.  
  2047.       numQSorted = 0;
  2048.       for (i = 0; i <= 255; i++) bigDone[i] = False;
  2049.  
  2050.       if (verbosity >= 4) fprintf ( stderr, "        bucket sorting ...\n" );
  2051.  
  2052.       for (i = 0; i <= 65536; i++) ftab[i] = 0;
  2053.  
  2054.       c1 = block[-1];
  2055.       for (i = 0; i <= last; i++) {
  2056.          c2 = block[i];
  2057.          ftab[(c1 << 8) + c2]++;
  2058.          c1 = c2;
  2059.       }
  2060.  
  2061.       for (i = 1; i <= 65536; i++) ftab[i] += ftab[i-1];
  2062.  
  2063.       c1 = block[0];
  2064.       for (i = 0; i < last; i++) {
  2065.          c2 = block[i+1];
  2066.          j = (c1 << 8) + c2;
  2067.          c1 = c2;
  2068.          ftab[j]--;
  2069.          zptr[ftab[j]] = i;
  2070.       }
  2071.       j = (block[last] << 8) + block[0];
  2072.       ftab[j]--;
  2073.       zptr[ftab[j]] = last;
  2074.  
  2075.       /*--
  2076.          Now ftab contains the first loc of every small bucket.
  2077.          Calculate the running order, from smallest to largest
  2078.          big bucket.
  2079.       --*/
  2080.  
  2081.       for (i = 0; i <= 255; i++) runningOrder[i] = i;
  2082.  
  2083.       {
  2084.          Int32 vv;
  2085.          Int32 h = 1;
  2086.          do h = 3 * h + 1; while (h <= 256);
  2087.          do {
  2088.             h = h / 3;
  2089.             for (i = h; i <= 255; i++) {
  2090.                vv = runningOrder[i];
  2091.                j = i;
  2092.                while ( BIGFREQ(runningOrder[j-h]) > BIGFREQ(vv) ) {
  2093.                   runningOrder[j] = runningOrder[j-h];
  2094.                   j = j - h;
  2095.                   if (j <= (h - 1)) goto zero;
  2096.                }
  2097.                zero:
  2098.                runningOrder[j] = vv;
  2099.             }
  2100.          } while (h != 1);
  2101.       }
  2102.  
  2103.       /*--
  2104.          The main sorting loop.
  2105.       --*/
  2106.  
  2107.       for (i = 0; i <= 255; i++) {
  2108.  
  2109.          /*--
  2110.             Process big buckets, starting with the least full.
  2111.          --*/
  2112.          ss = runningOrder[i];
  2113.  
  2114.          /*--
  2115.             Complete the big bucket [ss] by quicksorting
  2116.             any unsorted small buckets [ss, j].  Hopefully
  2117.             previous pointer-scanning phases have already
  2118.             completed many of the small buckets [ss, j], so
  2119.             we don't have to sort them at all.
  2120.          --*/
  2121.          for (j = 0; j <= 255; j++) {
  2122.             sb = (ss << 8) + j;
  2123.             if ( ! (ftab[sb] & SETMASK) ) {
  2124.                Int32 lo = ftab[sb]   & CLEARMASK;
  2125.                Int32 hi = (ftab[sb+1] & CLEARMASK) - 1;
  2126.                if (hi > lo) {
  2127.                   if (verbosity >= 4)
  2128.                      fprintf ( stderr,
  2129.                                "        qsort [0x%x, 0x%x]   done %d   this %d\n",
  2130.                                ss, j, numQSorted, hi - lo + 1 );
  2131.                   qSort3 ( lo, hi, 2 );
  2132.                   numQSorted += ( hi - lo + 1 );
  2133.                   if (workDone > workLimit && firstAttempt) return;
  2134.                }
  2135.                ftab[sb] |= SETMASK;
  2136.             }
  2137.          }
  2138.  
  2139.          /*--
  2140.             The ss big bucket is now done.  Record this fact,
  2141.             and update the quadrant descriptors.  Remember to
  2142.             update quadrants in the overshoot area too, if
  2143.             necessary.  The "if (i < 255)" test merely skips
  2144.             this updating for the last bucket processed, since
  2145.             updating for the last bucket is pointless.
  2146.          --*/
  2147.          bigDone[ss] = True;
  2148.  
  2149.          if (i < 255) {
  2150.             Int32 bbStart  = ftab[ss << 8] & CLEARMASK;
  2151.             Int32 bbSize   = (ftab[(ss+1) << 8] & CLEARMASK) - bbStart;
  2152.             Int32 shifts   = 0;
  2153.  
  2154.             while ((bbSize >> shifts) > 65534) shifts++;
  2155.  
  2156.             for (j = 0; j < bbSize; j++) {
  2157.                Int32 a2update     = zptr[bbStart + j];
  2158.                UInt16 qVal        = (UInt16)(j >> shifts);
  2159.                quadrant[a2update] = qVal;
  2160.                if (a2update < NUM_OVERSHOOT_BYTES)
  2161.                   quadrant[a2update + last + 1] = qVal;
  2162.             }
  2163.  
  2164.             if (! ( ((bbSize-1) >> shifts) <= 65535 )) panic ( "sortIt" );
  2165.          }
  2166.  
  2167.          /*--
  2168.             Now scan this big bucket so as to synthesise the
  2169.             sorted order for small buckets [t, ss] for all t != ss.
  2170.          --*/
  2171.          for (j = 0; j <= 255; j++)
  2172.             copy[j] = ftab[(j << 8) + ss] & CLEARMASK;
  2173.  
  2174.          for (j = ftab[ss << 8] & CLEARMASK;
  2175.               j < (ftab[(ss+1) << 8] & CLEARMASK);
  2176.               j++) {
  2177.             c1 = block[zptr[j]-1];
  2178.             if ( ! bigDone[c1] ) {
  2179.                zptr[copy[c1]] = zptr[j] == 0 ? last : zptr[j] - 1;
  2180.                copy[c1] ++;
  2181.             }
  2182.          }
  2183.  
  2184.          for (j = 0; j <= 255; j++) ftab[(j << 8) + ss] |= SETMASK;
  2185.       }
  2186.       if (verbosity >= 4)
  2187.          fprintf ( stderr, "        %d pointers, %d sorted, %d scanned\n",
  2188.                            last+1, numQSorted, (last+1) - numQSorted );
  2189.    }
  2190. }
  2191.  
  2192.  
  2193. /*---------------------------------------------------*/
  2194. /*--- Stuff for randomising repetitive blocks     ---*/
  2195. /*---------------------------------------------------*/
  2196.  
  2197. /*---------------------------------------------*/
  2198. Int32 rNums[512] = {
  2199.    619, 720, 127, 481, 931, 816, 813, 233, 566, 247,
  2200.    985, 724, 205, 454, 863, 491, 741, 242, 949, 214,
  2201.    733, 859, 335, 708, 621, 574, 73, 654, 730, 472,
  2202.    419, 436, 278, 496, 867, 210, 399, 680, 480, 51,
  2203.    878, 465, 811, 169, 869, 675, 611, 697, 867, 561,
  2204.    862, 687, 507, 283, 482, 129, 807, 591, 733, 623,
  2205.    150, 238, 59, 379, 684, 877, 625, 169, 643, 105,
  2206.    170, 607, 520, 932, 727, 476, 693, 425, 174, 647,
  2207.    73, 122, 335, 530, 442, 853, 695, 249, 445, 515,
  2208.    909, 545, 703, 919, 874, 474, 882, 500, 594, 612,
  2209.    641, 801, 220, 162, 819, 984, 589, 513, 495, 799,
  2210.    161, 604, 958, 533, 221, 400, 386, 867, 600, 782,
  2211.    382, 596, 414, 171, 516, 375, 682, 485, 911, 276,
  2212.    98, 553, 163, 354, 666, 933, 424, 341, 533, 870,
  2213.    227, 730, 475, 186, 263, 647, 537, 686, 600, 224,
  2214.    469, 68, 770, 919, 190, 373, 294, 822, 808, 206,
  2215.    184, 943, 795, 384, 383, 461, 404, 758, 839, 887,
  2216.    715, 67, 618, 276, 204, 918, 873, 777, 604, 560,
  2217.    951, 160, 578, 722, 79, 804, 96, 409, 713, 940,
  2218.    652, 934, 970, 447, 318, 353, 859, 672, 112, 785,
  2219.    645, 863, 803, 350, 139, 93, 354, 99, 820, 908,
  2220.    609, 772, 154, 274, 580, 184, 79, 626, 630, 742,
  2221.    653, 282, 762, 623, 680, 81, 927, 626, 789, 125,
  2222.    411, 521, 938, 300, 821, 78, 343, 175, 128, 250,
  2223.    170, 774, 972, 275, 999, 639, 495, 78, 352, 126,
  2224.    857, 956, 358, 619, 580, 124, 737, 594, 701, 612,
  2225.    669, 112, 134, 694, 363, 992, 809, 743, 168, 974,
  2226.    944, 375, 748, 52, 600, 747, 642, 182, 862, 81,
  2227.    344, 805, 988, 739, 511, 655, 814, 334, 249, 515,
  2228.    897, 955, 664, 981, 649, 113, 974, 459, 893, 228,
  2229.    433, 837, 553, 268, 926, 240, 102, 654, 459, 51,
  2230.    686, 754, 806, 760, 493, 403, 415, 394, 687, 700,
  2231.    946, 670, 656, 610, 738, 392, 760, 799, 887, 653,
  2232.    978, 321, 576, 617, 626, 502, 894, 679, 243, 440,
  2233.    680, 879, 194, 572, 640, 724, 926, 56, 204, 700,
  2234.    707, 151, 457, 449, 797, 195, 791, 558, 945, 679,
  2235.    297, 59, 87, 824, 713, 663, 412, 693, 342, 606,
  2236.    134, 108, 571, 364, 631, 212, 174, 643, 304, 329,
  2237.    343, 97, 430, 751, 497, 314, 983, 374, 822, 928,
  2238.    140, 206, 73, 263, 980, 736, 876, 478, 430, 305,
  2239.    170, 514, 364, 692, 829, 82, 855, 953, 676, 246,
  2240.    369, 970, 294, 750, 807, 827, 150, 790, 288, 923,
  2241.    804, 378, 215, 828, 592, 281, 565, 555, 710, 82,
  2242.    896, 831, 547, 261, 524, 462, 293, 465, 502, 56,
  2243.    661, 821, 976, 991, 658, 869, 905, 758, 745, 193,
  2244.    768, 550, 608, 933, 378, 286, 215, 979, 792, 961,
  2245.    61, 688, 793, 644, 986, 403, 106, 366, 905, 644,
  2246.    372, 567, 466, 434, 645, 210, 389, 550, 919, 135,
  2247.    780, 773, 635, 389, 707, 100, 626, 958, 165, 504,
  2248.    920, 176, 193, 713, 857, 265, 203, 50, 668, 108,
  2249.    645, 990, 626, 197, 510, 357, 358, 850, 858, 364,
  2250.    936, 638
  2251. };
  2252.  
  2253.  
  2254. #define RAND_DECLS                                \
  2255.    Int32 rNToGo = 0;                              \
  2256.    Int32 rTPos  = 0;                              \
  2257.  
  2258. #define RAND_MASK ((rNToGo == 1) ? 1 : 0)
  2259.  
  2260. #define RAND_UPD_MASK                             \
  2261.    if (rNToGo == 0) {                             \
  2262.       rNToGo = rNums[rTPos];                      \
  2263.       rTPos++; if (rTPos == 512) rTPos = 0;       \
  2264.    }                                              \
  2265.    rNToGo--;
  2266.  
  2267.  
  2268.  
  2269. /*---------------------------------------------------*/
  2270. /*--- The Reversible Transformation (tm)          ---*/
  2271. /*---------------------------------------------------*/
  2272.  
  2273. /*---------------------------------------------*/
  2274. void randomiseBlock ( void )
  2275. {
  2276.    Int32 i;
  2277.    RAND_DECLS;
  2278.    for (i = 0; i < 256; i++) inUse[i] = False;
  2279.  
  2280.    for (i = 0; i <= last; i++) {
  2281.       RAND_UPD_MASK;
  2282.       block[i] ^= RAND_MASK;
  2283.       inUse[block[i]] = True;
  2284.    }
  2285. }
  2286.  
  2287.  
  2288. /*---------------------------------------------*/
  2289. void doReversibleTransformation ( void )
  2290. {
  2291.    Int32 i;
  2292.  
  2293.    if (verbosity >= 2) fprintf ( stderr, "\n" );
  2294.  
  2295.    workLimit       = workFactor * last;
  2296.    workDone        = 0;
  2297.    blockRandomised = False;
  2298.    firstAttempt    = True;
  2299.  
  2300.    sortIt ();
  2301.  
  2302.    if (verbosity >= 3)
  2303.       fprintf ( stderr, "      %d work, %d block, ratio %5.2f\n",
  2304.                         workDone, last, (float)workDone / (float)(last) );
  2305.  
  2306.    if (workDone > workLimit && firstAttempt) {
  2307.       if (verbosity >= 2)
  2308.          fprintf ( stderr, "    sorting aborted; randomising block\n" );
  2309.       randomiseBlock ();
  2310.       workLimit = workDone = 0;
  2311.       blockRandomised = True;
  2312.       firstAttempt = False;
  2313.       sortIt();
  2314.       if (verbosity >= 3)
  2315.          fprintf ( stderr, "      %d work, %d block, ratio %f\n",
  2316.                            workDone, last, (float)workDone / (float)(last) );
  2317.    }
  2318.  
  2319.    origPtr = -1;
  2320.    for (i = 0; i <= last; i++)
  2321.        if (zptr[i] == 0)
  2322.           { origPtr = i; break; };
  2323.  
  2324.    if (origPtr == -1) panic ( "doReversibleTransformation" );
  2325. }
  2326.  
  2327.  
  2328. /*---------------------------------------------*/
  2329.  
  2330. INLINE Int32 indexIntoF ( Int32 indx, Int32 *cftab )
  2331. {
  2332.    Int32 nb, na, mid;
  2333.    nb = 0;
  2334.    na = 256;
  2335.    do {
  2336.       mid = (nb + na) >> 1;
  2337.       if (indx >= cftab[mid]) nb = mid; else na = mid;
  2338.    }
  2339.    while (na - nb != 1);
  2340.    return nb;
  2341. }
  2342.  
  2343.  
  2344. #define GET_SMALL(cccc)                     \
  2345.                                             \
  2346.       cccc = indexIntoF ( tPos, cftab );    \
  2347.       tPos = GET_LL(tPos);
  2348.  
  2349.  
  2350. void undoReversibleTransformation_small ( FILE* dst )
  2351. {
  2352.    Int32  cftab[257], cftabAlso[257];
  2353.    Int32  i, j, tmp, tPos;
  2354.    UChar  ch;
  2355.  
  2356.    /*--
  2357.       We assume here that the global array unzftab will
  2358.       already be holding the frequency counts for
  2359.       ll8[0 .. last].
  2360.    --*/
  2361.  
  2362.    /*-- Set up cftab to facilitate generation of indexIntoF --*/
  2363.    cftab[0] = 0;
  2364.    for (i = 1; i <= 256; i++) cftab[i] = unzftab[i-1];
  2365.    for (i = 1; i <= 256; i++) cftab[i] += cftab[i-1];
  2366.  
  2367.    /*-- Make a copy of it, used in generation of T --*/
  2368.    for (i = 0; i <= 256; i++) cftabAlso[i] = cftab[i];
  2369.  
  2370.    /*-- compute the T vector --*/
  2371.    for (i = 0; i <= last; i++) {
  2372.       ch = (UChar)ll16[i];
  2373.       SET_LL(i, cftabAlso[ch]);
  2374.       cftabAlso[ch]++;
  2375.    }
  2376.  
  2377.    /*--
  2378.       Compute T^(-1) by pointer reversal on T.  This is rather
  2379.       subtle, in that, if the original block was two or more
  2380.       (in general, N) concatenated copies of the same thing,
  2381.       the T vector will consist of N cycles, each of length
  2382.       blocksize / N, and decoding will involve traversing one
  2383.       of these cycles N times.  Which particular cycle doesn't
  2384.       matter -- they are all equivalent.  The tricky part is to
  2385.       make sure that the pointer reversal creates a correct
  2386.       reversed cycle for us to traverse.  So, the code below
  2387.       simply reverses whatever cycle origPtr happens to fall into,
  2388.       without regard to the cycle length.  That gives one reversed
  2389.       cycle, which for normal blocks, is the entire block-size long.
  2390.       For repeated blocks, it will be interspersed with the other
  2391.       N-1 non-reversed cycles.  Providing that the F-subscripting
  2392.       phase which follows starts at origPtr, all then works ok.
  2393.    --*/
  2394.    i = origPtr;
  2395.    j = GET_LL(i);
  2396.    do {
  2397.       tmp = GET_LL(j);
  2398.       SET_LL(j, i);
  2399.       i = j;
  2400.       j = tmp;
  2401.    }
  2402.       while (i != origPtr);
  2403.  
  2404.    /*--
  2405.       We recreate the original by subscripting F through T^(-1).
  2406.       The run-length-decoder below requires characters incrementally,
  2407.       so tPos is set to a starting value, and is updated by
  2408.       the GET_SMALL macro.
  2409.    --*/
  2410.    tPos   = origPtr;
  2411.  
  2412.    /*-------------------------------------------------*/
  2413.    /*--
  2414.       This is pretty much a verbatim copy of the
  2415.       run-length decoder present in the distribution
  2416.       bzip-0.21; it has to be here to avoid creating
  2417.       block[] as an intermediary structure.  As in 0.21,
  2418.       this code derives from some sent to me by
  2419.       Christian von Roques.
  2420.  
  2421.       It allows dst==NULL, so as to support the test (-t)
  2422.       option without slowing down the fast decompression
  2423.       code.
  2424.    --*/
  2425.    {
  2426.       IntNative retVal;
  2427.       Int32     i2, count, chPrev, ch2;
  2428.       UInt32    localCrc;
  2429.  
  2430.       count    = 0;
  2431.       i2       = 0;
  2432.       ch2      = 256;   /*-- not a char and not EOF --*/
  2433.       localCrc = getGlobalCRC();
  2434.  
  2435.       {
  2436.          RAND_DECLS;
  2437.          while ( i2 <= last ) {
  2438.             chPrev = ch2;
  2439.             GET_SMALL(ch2);
  2440.             if (blockRandomised) {
  2441.                RAND_UPD_MASK;
  2442.                ch2 ^= (UInt32)RAND_MASK;
  2443.             }
  2444.             i2++;
  2445.  
  2446.             if (dst)
  2447.                retVal = putc ( ch2, dst );
  2448.  
  2449.             UPDATE_CRC ( localCrc, (UChar)ch2 );
  2450.  
  2451.             if (ch2 != chPrev) {
  2452.                count = 1;
  2453.             } else {
  2454.                count++;
  2455.                if (count >= 4) {
  2456.                   Int32 j2;
  2457.                   UChar z;
  2458.                   GET_SMALL(z);
  2459.                   if (blockRandomised) {
  2460.                      RAND_UPD_MASK;
  2461.                      z ^= RAND_MASK;
  2462.                   }
  2463.                   for (j2 = 0;  j2 < (Int32)z;  j2++) {
  2464.                      if (dst) retVal = putc (ch2, dst);
  2465.                      UPDATE_CRC ( localCrc, (UChar)ch2 );
  2466.                   }
  2467.                   i2++;
  2468.                   count = 0;
  2469.                }
  2470.             }
  2471.          }
  2472.       }
  2473.  
  2474.       setGlobalCRC ( localCrc );
  2475.    }
  2476.    /*-- end of the in-line run-length-decoder. --*/
  2477. }
  2478. #undef GET_SMALL
  2479.  
  2480.  
  2481. /*---------------------------------------------*/
  2482.  
  2483. #define GET_FAST(cccc)                       \
  2484.                                              \
  2485.       cccc = ll8[tPos];                      \
  2486.       tPos = tt[tPos];
  2487.  
  2488.  
  2489. void undoReversibleTransformation_fast ( FILE* dst )
  2490. {
  2491.    Int32  cftab[257];
  2492.    Int32  i, tPos;
  2493.    UChar  ch;
  2494.  
  2495.    /*--
  2496.       We assume here that the global array unzftab will
  2497.       already be holding the frequency counts for
  2498.       ll8[0 .. last].
  2499.    --*/
  2500.  
  2501.    /*-- Set up cftab to facilitate generation of T^(-1) --*/
  2502.    cftab[0] = 0;
  2503.    for (i = 1; i <= 256; i++) cftab[i] = unzftab[i-1];
  2504.    for (i = 1; i <= 256; i++) cftab[i] += cftab[i-1];
  2505.  
  2506.    /*-- compute the T^(-1) vector --*/
  2507.    for (i = 0; i <= last; i++) {
  2508.       ch = (UChar)ll8[i];
  2509.       tt[cftab[ch]] = i;
  2510.       cftab[ch]++;
  2511.    }
  2512.  
  2513.    /*--
  2514.       We recreate the original by subscripting L through T^(-1).
  2515.       The run-length-decoder below requires characters incrementally,
  2516.       so tPos is set to a starting value, and is updated by
  2517.       the GET_FAST macro.
  2518.    --*/
  2519.    tPos   = tt[origPtr];
  2520.  
  2521.    /*-------------------------------------------------*/
  2522.    /*--
  2523.       This is pretty much a verbatim copy of the
  2524.       run-length decoder present in the distribution
  2525.       bzip-0.21; it has to be here to avoid creating
  2526.       block[] as an intermediary structure.  As in 0.21,
  2527.       this code derives from some sent to me by
  2528.       Christian von Roques.
  2529.    --*/
  2530.    {
  2531.       IntNative retVal;
  2532.       Int32     i2, count, chPrev, ch2;
  2533.       UInt32    localCrc;
  2534.  
  2535.       count    = 0;
  2536.       i2       = 0;
  2537.       ch2      = 256;   /*-- not a char and not EOF --*/
  2538.       localCrc = getGlobalCRC();
  2539.  
  2540.       if (blockRandomised) {
  2541.          RAND_DECLS;
  2542.          while ( i2 <= last ) {
  2543.             chPrev = ch2;
  2544.             GET_FAST(ch2);
  2545.             RAND_UPD_MASK;
  2546.             ch2 ^= (UInt32)RAND_MASK;
  2547.             i2++;
  2548.  
  2549.             retVal = putc ( ch2, dst );
  2550.             UPDATE_CRC ( localCrc, (UChar)ch2 );
  2551.  
  2552.             if (ch2 != chPrev) {
  2553.                count = 1;
  2554.             } else {
  2555.                count++;
  2556.                if (count >= 4) {
  2557.                   Int32 j2;
  2558.                   UChar z;
  2559.                   GET_FAST(z);
  2560.                   RAND_UPD_MASK;
  2561.                   z ^= RAND_MASK;
  2562.                   for (j2 = 0;  j2 < (Int32)z;  j2++) {
  2563.                      retVal = putc (ch2, dst);
  2564.                      UPDATE_CRC ( localCrc, (UChar)ch2 );
  2565.                   }
  2566.                   i2++;
  2567.                   count = 0;
  2568.                }
  2569.             }
  2570.          }
  2571.  
  2572.       } else {
  2573.  
  2574.          while ( i2 <= last ) {
  2575.             chPrev = ch2;
  2576.             GET_FAST(ch2);
  2577.             i2++;
  2578.  
  2579.             retVal = putc ( ch2, dst );
  2580.             UPDATE_CRC ( localCrc, (UChar)ch2 );
  2581.  
  2582.             if (ch2 != chPrev) {
  2583.                count = 1;
  2584.             } else {
  2585.                count++;
  2586.                if (count >= 4) {
  2587.                   Int32 j2;
  2588.                   UChar z;
  2589.                   GET_FAST(z);
  2590.                   for (j2 = 0;  j2 < (Int32)z;  j2++) {
  2591.                      retVal = putc (ch2, dst);
  2592.                      UPDATE_CRC ( localCrc, (UChar)ch2 );
  2593.                   }
  2594.                   i2++;
  2595.                   count = 0;
  2596.                }
  2597.             }
  2598.          }
  2599.  
  2600.       }   /*-- if (blockRandomised) --*/
  2601.  
  2602.       setGlobalCRC ( localCrc );
  2603.    }
  2604.    /*-- end of the in-line run-length-decoder. --*/
  2605. }
  2606. #undef GET_FAST
  2607.  
  2608.  
  2609. /*---------------------------------------------------*/
  2610. /*--- The block loader and RLEr                   ---*/
  2611. /*---------------------------------------------------*/
  2612.  
  2613. /*---------------------------------------------*/
  2614. /*  Top 16:   run length, 1 to 255.
  2615. *   Lower 16: the char, or MY_EOF for EOF.
  2616. */
  2617.  
  2618. #define MY_EOF 257
  2619.  
  2620. INLINE Int32 getRLEpair ( FILE* src )
  2621. {
  2622.    Int32     runLength;
  2623.    IntNative ch, chLatest;
  2624.  
  2625.    ch = getc ( src );
  2626.  
  2627.    /*--- Because I have no idea what kind of a value EOF is. ---*/
  2628.    if (ch == EOF) {
  2629.       ERROR_IF_NOT_ZERO ( ferror(src));
  2630.       return (1 << 16) | MY_EOF;
  2631.    }
  2632.  
  2633.    runLength = 0;
  2634.    do {
  2635.       chLatest = getc ( src );
  2636.       runLength++;
  2637.       bytesIn++;
  2638.    }
  2639.       while (ch == chLatest && runLength < 255);
  2640.  
  2641.    if ( chLatest != EOF ) {
  2642.       if ( ungetc ( chLatest, src ) == EOF )
  2643.          panic ( "getRLEpair: ungetc failed" );
  2644.    } else {
  2645.       ERROR_IF_NOT_ZERO ( ferror(src) );
  2646.    }
  2647.  
  2648.    /*--- Conditional is just a speedup hack. ---*/
  2649.    if (runLength == 1) {
  2650.       UPDATE_CRC ( globalCrc, (UChar)ch );
  2651.       return (1 << 16) | ch;
  2652.    } else {
  2653.       Int32 i;
  2654.       for (i = 1; i <= runLength; i++)
  2655.          UPDATE_CRC ( globalCrc, (UChar)ch );
  2656.       return (runLength << 16) | ch;
  2657.    }
  2658. }
  2659.  
  2660.  
  2661. /*---------------------------------------------*/
  2662. void loadAndRLEsource ( FILE* src )
  2663. {
  2664.    Int32 ch, allowableBlockSize, i;
  2665.  
  2666.    last = -1;
  2667.    ch   = 0;
  2668.  
  2669.    for (i = 0; i < 256; i++) inUse[i] = False;
  2670.  
  2671.    /*--- 20 is just a paranoia constant ---*/
  2672.    allowableBlockSize = 100000 * blockSize100k - 20;
  2673.  
  2674.    while (last < allowableBlockSize && ch != MY_EOF) {
  2675.       Int32 rlePair, runLen;
  2676.       rlePair = getRLEpair ( src );
  2677.       ch      = rlePair & 0xFFFF;
  2678.       runLen  = (UInt32)rlePair >> 16;
  2679.  
  2680.       #if DEBUG
  2681.          assert (runLen >= 1 && runLen <= 255);
  2682.       #endif
  2683.  
  2684.       if (ch != MY_EOF) {
  2685.          inUse[ch] = True;
  2686.          switch (runLen) {
  2687.             case 1:
  2688.                last++; block[last] = (UChar)ch; break;
  2689.             case 2:
  2690.                last++; block[last] = (UChar)ch;
  2691.                last++; block[last] = (UChar)ch; break;
  2692.             case 3:
  2693.                last++; block[last] = (UChar)ch;
  2694.                last++; block[last] = (UChar)ch;
  2695.                last++; block[last] = (UChar)ch; break;
  2696.             default:
  2697.                inUse[runLen-4] = True;
  2698.                last++; block[last] = (UChar)ch;
  2699.                last++; block[last] = (UChar)ch;
  2700.                last++; block[last] = (UChar)ch;
  2701.                last++; block[last] = (UChar)ch;
  2702.                last++; block[last] = (UChar)(runLen-4); break;
  2703.          }
  2704.       }
  2705.    }
  2706. }
  2707.  
  2708.  
  2709. /*---------------------------------------------------*/
  2710. /*--- Processing of complete files and streams    ---*/
  2711. /*---------------------------------------------------*/
  2712.  
  2713. /*---------------------------------------------*/
  2714. void compressStream ( FILE *stream, FILE *zStream )
  2715. {
  2716.    IntNative  retVal;
  2717.    UInt32     blockCRC, combinedCRC;
  2718.    Int32      blockNo;
  2719.  
  2720.    blockNo  = 0;
  2721.    bytesIn  = 0;
  2722.    bytesOut = 0;
  2723.    nBlocksRandomised = 0;
  2724.  
  2725.    SET_BINARY_MODE(stream);
  2726.    SET_BINARY_MODE(zStream);
  2727.  
  2728.    ERROR_IF_NOT_ZERO ( ferror(stream) );
  2729.    ERROR_IF_NOT_ZERO ( ferror(zStream) );
  2730.  
  2731.    bsSetStream ( zStream, True );
  2732.  
  2733.    /*--- Write `magic' bytes B and Z,
  2734.          then h indicating file-format == huffmanised,
  2735.          followed by a digit indicating blockSize100k.
  2736.    ---*/
  2737.    bsPutUChar ( 'B' );
  2738.    bsPutUChar ( 'Z' );
  2739.    bsPutUChar ( 'h' );
  2740.    bsPutUChar ( '0' + blockSize100k );
  2741.  
  2742.    combinedCRC = 0;
  2743.  
  2744.    if (verbosity >= 2) fprintf ( stderr, "\n" );
  2745.  
  2746.    while (True) {
  2747.  
  2748.       blockNo++;
  2749.       initialiseCRC ();
  2750.       loadAndRLEsource ( stream );
  2751.       ERROR_IF_NOT_ZERO ( ferror(stream) );
  2752.       if (last == -1) break;
  2753.  
  2754.       blockCRC = getFinalCRC ();
  2755.       combinedCRC = (combinedCRC << 1) | (combinedCRC >> 31);
  2756.       combinedCRC ^= blockCRC;
  2757.  
  2758.       if (verbosity >= 2)
  2759.          fprintf ( stderr, "    block %d: crc = 0x%8x, combined CRC = 0x%8x, size = %d",
  2760.                            blockNo, blockCRC, combinedCRC, last+1 );
  2761.  
  2762.       /*-- sort the block and establish posn of original string --*/
  2763.       doReversibleTransformation ();
  2764.  
  2765.       /*--
  2766.         A 6-byte block header, the value chosen arbitrarily
  2767.         as 0x314159265359 :-).  A 32 bit value does not really
  2768.         give a strong enough guarantee that the value will not
  2769.         appear by chance in the compressed datastream.  Worst-case
  2770.         probability of this event, for a 900k block, is about
  2771.         2.0e-3 for 32 bits, 1.0e-5 for 40 bits and 4.0e-8 for 48 bits.
  2772.         For a compressed file of size 100Gb -- about 100000 blocks --
  2773.         only a 48-bit marker will do.  NB: normal compression/
  2774.         decompression do *not* rely on these statistical properties.
  2775.         They are only important when trying to recover blocks from
  2776.         damaged files.
  2777.       --*/
  2778.       bsPutUChar ( 0x31 ); bsPutUChar ( 0x41 );
  2779.       bsPutUChar ( 0x59 ); bsPutUChar ( 0x26 );
  2780.       bsPutUChar ( 0x53 ); bsPutUChar ( 0x59 );
  2781.  
  2782.       /*-- Now the block's CRC, so it is in a known place. --*/
  2783.       bsPutUInt32 ( blockCRC );
  2784.  
  2785.       /*-- Now a single bit indicating randomisation. --*/
  2786.       if (blockRandomised) {
  2787.          bsW(1,1); nBlocksRandomised++;
  2788.       } else
  2789.          bsW(1,0);
  2790.  
  2791.       /*-- Finally, block's contents proper. --*/
  2792.       moveToFrontCodeAndSend ();
  2793.  
  2794.       ERROR_IF_NOT_ZERO ( ferror(zStream) );
  2795.    }
  2796.  
  2797.    if (verbosity >= 2 && nBlocksRandomised > 0)
  2798.       fprintf ( stderr, "    %d block%s needed randomisation\n",
  2799.                         nBlocksRandomised,
  2800.                         nBlocksRandomised == 1 ? "" : "s" );
  2801.  
  2802.    /*--
  2803.       Now another magic 48-bit number, 0x177245385090, to
  2804.       indicate the end of the last block.  (sqrt(pi), if
  2805.       you want to know.  I did want to use e, but it contains
  2806.       too much repetition -- 27 18 28 18 28 46 -- for me
  2807.       to feel statistically comfortable.  Call me paranoid.)
  2808.    --*/
  2809.  
  2810.    bsPutUChar ( 0x17 ); bsPutUChar ( 0x72 );
  2811.    bsPutUChar ( 0x45 ); bsPutUChar ( 0x38 );
  2812.    bsPutUChar ( 0x50 ); bsPutUChar ( 0x90 );
  2813.  
  2814.    bsPutUInt32 ( combinedCRC );
  2815.    if (verbosity >= 2)
  2816.       fprintf ( stderr, "    final combined CRC = 0x%x\n   ", combinedCRC );
  2817.  
  2818.    /*-- Close the files in an utterly paranoid way. --*/
  2819.    bsFinishedWithStream ();
  2820.  
  2821.    ERROR_IF_NOT_ZERO ( ferror(zStream) );
  2822.    retVal = fflush ( zStream );
  2823.    ERROR_IF_EOF ( retVal );
  2824.    retVal = fclose ( zStream );
  2825.    ERROR_IF_EOF ( retVal );
  2826.  
  2827.    ERROR_IF_NOT_ZERO ( ferror(stream) );
  2828.    retVal = fclose ( stream );
  2829.    ERROR_IF_EOF ( retVal );
  2830.  
  2831.    if (bytesIn == 0) bytesIn = 1;
  2832.    if (bytesOut == 0) bytesOut = 1;
  2833.  
  2834.    if (verbosity >= 1)
  2835.       fprintf ( stderr, "%6.3f:1, %6.3f bits/byte, "
  2836.                         "%5.2f%% saved, %d in, %d out.\n",
  2837.                 (float)bytesIn / (float)bytesOut,
  2838.                 (8.0 * (float)bytesOut) / (float)bytesIn,
  2839.                 100.0 * (1.0 - (float)bytesOut / (float)bytesIn),
  2840.                 bytesIn,
  2841.                 bytesOut
  2842.               );
  2843. }
  2844.  
  2845.  
  2846. /*---------------------------------------------*/
  2847. Bool uncompressStream ( FILE *zStream, FILE *stream )
  2848. {
  2849.    UChar      magic1, magic2, magic3, magic4;
  2850.    UChar      magic5, magic6;
  2851.    UInt32     storedBlockCRC, storedCombinedCRC;
  2852.    UInt32     computedBlockCRC, computedCombinedCRC;
  2853.    Int32      currBlockNo;
  2854.    IntNative  retVal;
  2855.  
  2856.    SET_BINARY_MODE(stream);
  2857.    SET_BINARY_MODE(zStream);
  2858.  
  2859.    ERROR_IF_NOT_ZERO ( ferror(stream) );
  2860.    ERROR_IF_NOT_ZERO ( ferror(zStream) );
  2861.  
  2862.    bsSetStream ( zStream, False );
  2863.  
  2864.    /*--
  2865.       A bad magic number is `recoverable from';
  2866.       return with False so the caller skips the file.
  2867.    --*/
  2868.    magic1 = bsGetUChar ();
  2869.    magic2 = bsGetUChar ();
  2870.    magic3 = bsGetUChar ();
  2871.    magic4 = bsGetUChar ();
  2872.    if (magic1 != 'B' ||
  2873.        magic2 != 'Z' ||
  2874.        magic3 != 'h' ||
  2875.        magic4 < '1'  ||
  2876.        magic4 > '9') {
  2877.      bsFinishedWithStream();
  2878.      retVal = fclose ( stream );
  2879.      ERROR_IF_EOF ( retVal );
  2880.      return False;
  2881.    }
  2882.  
  2883.    setDecompressStructureSizes ( magic4 - '0' );
  2884.    computedCombinedCRC = 0;
  2885.  
  2886.    if (verbosity >= 2) fprintf ( stderr, "\n    " );
  2887.    currBlockNo = 0;
  2888.  
  2889.    while (True) {
  2890.       magic1 = bsGetUChar ();
  2891.       magic2 = bsGetUChar ();
  2892.       magic3 = bsGetUChar ();
  2893.       magic4 = bsGetUChar ();
  2894.       magic5 = bsGetUChar ();
  2895.       magic6 = bsGetUChar ();
  2896.       if (magic1 == 0x17 && magic2 == 0x72 &&
  2897.           magic3 == 0x45 && magic4 == 0x38 &&
  2898.           magic5 == 0x50 && magic6 == 0x90) break;
  2899.  
  2900.       if (magic1 != 0x31 || magic2 != 0x41 ||
  2901.           magic3 != 0x59 || magic4 != 0x26 ||
  2902.           magic5 != 0x53 || magic6 != 0x59) badBlockHeader();
  2903.  
  2904.       storedBlockCRC = bsGetUInt32 ();
  2905.  
  2906.       if (bsR(1) == 1)
  2907.          blockRandomised = True; else
  2908.          blockRandomised = False;
  2909.  
  2910.       currBlockNo++;
  2911.       if (verbosity >= 2)
  2912.          fprintf ( stderr, "[%d: huff+mtf ", currBlockNo );
  2913.       getAndMoveToFrontDecode ();
  2914.       ERROR_IF_NOT_ZERO ( ferror(zStream) );
  2915.  
  2916.       initialiseCRC();
  2917.       if (verbosity >= 2) fprintf ( stderr, "rt+rld" );
  2918.       if (smallMode)
  2919.          undoReversibleTransformation_small ( stream );
  2920.          else
  2921.          undoReversibleTransformation_fast  ( stream );
  2922.  
  2923.       ERROR_IF_NOT_ZERO ( ferror(stream) );
  2924.  
  2925.       computedBlockCRC = getFinalCRC();
  2926.       if (verbosity >= 3)
  2927.          fprintf ( stderr, " {0x%x, 0x%x}", storedBlockCRC, computedBlockCRC );
  2928.       if (verbosity >= 2) fprintf ( stderr, "] " );
  2929.  
  2930.       /*-- A bad CRC is considered a fatal error. --*/
  2931.       if (storedBlockCRC != computedBlockCRC)
  2932.          crcError ( storedBlockCRC, computedBlockCRC );
  2933.  
  2934.       computedCombinedCRC = (computedCombinedCRC << 1) | (computedCombinedCRC >> 31);
  2935.       computedCombinedCRC ^= computedBlockCRC;
  2936.    };
  2937.  
  2938.    if (verbosity >= 2) fprintf ( stderr, "\n    " );
  2939.  
  2940.    storedCombinedCRC  = bsGetUInt32 ();
  2941.    if (verbosity >= 2)
  2942.       fprintf ( stderr,
  2943.                 "combined CRCs: stored = 0x%x, computed = 0x%x\n    ",
  2944.                 storedCombinedCRC, computedCombinedCRC );
  2945.    if (storedCombinedCRC != computedCombinedCRC)
  2946.       crcError ( storedCombinedCRC, computedCombinedCRC );
  2947.  
  2948.  
  2949.    bsFinishedWithStream ();
  2950.    ERROR_IF_NOT_ZERO ( ferror(zStream) );
  2951.    retVal = fclose ( zStream );
  2952.    ERROR_IF_EOF ( retVal );
  2953.  
  2954.    ERROR_IF_NOT_ZERO ( ferror(stream) );
  2955.    retVal = fflush ( stream );
  2956.    ERROR_IF_NOT_ZERO ( retVal );
  2957.    if (stream != stdout) {
  2958.       retVal = fclose ( stream );
  2959.       ERROR_IF_EOF ( retVal );
  2960.    }
  2961.    return True;
  2962. }
  2963.  
  2964.  
  2965. /*---------------------------------------------*/
  2966. Bool testStream ( FILE *zStream )
  2967. {
  2968.    UChar      magic1, magic2, magic3, magic4;
  2969.    UChar      magic5, magic6;
  2970.    UInt32     storedBlockCRC, storedCombinedCRC;
  2971.    UInt32     computedBlockCRC, computedCombinedCRC;
  2972.    Int32      currBlockNo;
  2973.    IntNative  retVal;
  2974.  
  2975.    SET_BINARY_MODE(zStream);
  2976.    ERROR_IF_NOT_ZERO ( ferror(zStream) );
  2977.  
  2978.    bsSetStream ( zStream, False );
  2979.  
  2980.    magic1 = bsGetUChar ();
  2981.    magic2 = bsGetUChar ();
  2982.    magic3 = bsGetUChar ();
  2983.    magic4 = bsGetUChar ();
  2984.    if (magic1 != 'B' ||
  2985.        magic2 != 'Z' ||
  2986.        magic3 != 'h' ||
  2987.        magic4 < '1'  ||
  2988.        magic4 > '9') {
  2989.      bsFinishedWithStream();
  2990.      fclose ( zStream );
  2991.      fprintf ( stderr, "\n%s: bad magic number (ie, not created by bzip2)\n",
  2992.                        inName );
  2993.      return False;
  2994.    }
  2995.  
  2996.    smallMode = True;
  2997.    setDecompressStructureSizes ( magic4 - '0' );
  2998.    computedCombinedCRC = 0;
  2999.  
  3000.    if (verbosity >= 2) fprintf ( stderr, "\n" );
  3001.    currBlockNo = 0;
  3002.  
  3003.    while (True) {
  3004.       magic1 = bsGetUChar ();
  3005.       magic2 = bsGetUChar ();
  3006.       magic3 = bsGetUChar ();
  3007.       magic4 = bsGetUChar ();
  3008.       magic5 = bsGetUChar ();
  3009.       magic6 = bsGetUChar ();
  3010.       if (magic1 == 0x17 && magic2 == 0x72 &&
  3011.           magic3 == 0x45 && magic4 == 0x38 &&
  3012.           magic5 == 0x50 && magic6 == 0x90) break;
  3013.  
  3014.       currBlockNo++;
  3015.       if (magic1 != 0x31 || magic2 != 0x41 ||
  3016.           magic3 != 0x59 || magic4 != 0x26 ||
  3017.           magic5 != 0x53 || magic6 != 0x59) {
  3018.          bsFinishedWithStream();
  3019.          fclose ( zStream );
  3020.          fprintf ( stderr,
  3021.                    "\n%s, block %d: bad header (not == 0x314159265359)\n",
  3022.                    inName, currBlockNo );
  3023.          return False;
  3024.       }
  3025.       storedBlockCRC = bsGetUInt32 ();
  3026.  
  3027.       if (bsR(1) == 1)
  3028.          blockRandomised = True; else
  3029.          blockRandomised = False;
  3030.  
  3031.       if (verbosity >= 2)
  3032.          fprintf ( stderr, "    block [%d: huff+mtf ", currBlockNo );
  3033.       getAndMoveToFrontDecode ();
  3034.       ERROR_IF_NOT_ZERO ( ferror(zStream) );
  3035.  
  3036.       initialiseCRC();
  3037.       if (verbosity >= 2) fprintf ( stderr, "rt+rld" );
  3038.       undoReversibleTransformation_small ( NULL );
  3039.  
  3040.       computedBlockCRC = getFinalCRC();
  3041.       if (verbosity >= 3)
  3042.          fprintf ( stderr, " {0x%x, 0x%x}", storedBlockCRC, computedBlockCRC );
  3043.       if (verbosity >= 2) fprintf ( stderr, "] " );
  3044.  
  3045.       if (storedBlockCRC != computedBlockCRC) {
  3046.          bsFinishedWithStream();
  3047.          fclose ( zStream );
  3048.          fprintf ( stderr, "\n%s, block %d: computed CRC does not match stored one\n",
  3049.                            inName, currBlockNo );
  3050.          return False;
  3051.       }
  3052.  
  3053.       if (verbosity >= 2) fprintf ( stderr, "ok\n" );
  3054.       computedCombinedCRC = (computedCombinedCRC << 1) | (computedCombinedCRC >> 31);
  3055.       computedCombinedCRC ^= computedBlockCRC;
  3056.    };
  3057.  
  3058.    storedCombinedCRC  = bsGetUInt32 ();
  3059.    if (verbosity >= 2)
  3060.       fprintf ( stderr,
  3061.                 "    combined CRCs: stored = 0x%x, computed = 0x%x\n    ",
  3062.                 storedCombinedCRC, computedCombinedCRC );
  3063.    if (storedCombinedCRC != computedCombinedCRC) {
  3064.       bsFinishedWithStream();
  3065.       fclose ( zStream );
  3066.       fprintf ( stderr, "\n%s: computed CRC does not match stored one\n",
  3067.                         inName );
  3068.       return False;
  3069.    }
  3070.  
  3071.    bsFinishedWithStream ();
  3072.    ERROR_IF_NOT_ZERO ( ferror(zStream) );
  3073.    retVal = fclose ( zStream );
  3074.    ERROR_IF_EOF ( retVal );
  3075.    return True;
  3076. }
  3077.  
  3078.  
  3079.  
  3080. /*---------------------------------------------------*/
  3081. /*--- Error [non-] handling grunge                ---*/
  3082. /*---------------------------------------------------*/
  3083.  
  3084. /*---------------------------------------------*/
  3085. void cadvise ( void )
  3086. {
  3087.    fprintf (
  3088.       stderr,
  3089.       "\nIt is possible that the compressed file(s) have become corrupted.\n"
  3090.         "You can use the -tvv option to test integrity of such files.\n\n"
  3091.         "You can use the `bzip2recover' program to *attempt* to recover\n"
  3092.         "data from undamaged sections of corrupted files.\n\n"
  3093.     );
  3094. }
  3095.  
  3096.  
  3097. /*---------------------------------------------*/
  3098. void showFileNames ( void )
  3099. {
  3100.    fprintf (
  3101.       stderr,
  3102.       "\tInput file = %s, output file = %s\n",
  3103.       inName==NULL  ? "(null)" : inName,
  3104.       outName==NULL ? "(null)" : outName
  3105.    );
  3106. }
  3107.  
  3108.  
  3109. /*---------------------------------------------*/
  3110. void cleanUpAndFail ( Int32 ec )
  3111. {
  3112.    IntNative retVal;
  3113.  
  3114.    if ( srcMode == SM_F2F && opMode != OM_TEST ) {
  3115.       fprintf ( stderr, "%s: Deleting output file %s, if it exists.\n",
  3116.                 progName,
  3117.                 outName==NULL ? "(null)" : outName );
  3118.       if (outputHandleJustInCase != NULL)
  3119.          fclose ( outputHandleJustInCase );
  3120.       retVal = remove ( outName );
  3121.       if (retVal != 0)
  3122.          fprintf ( stderr,
  3123.                    "%s: WARNING: deletion of output file (apparently) failed.\n",
  3124.                    progName );
  3125.    }
  3126.    if (numFileNames > 0 && numFilesProcessed < numFileNames) {
  3127.       fprintf ( stderr,
  3128.                 "%s: WARNING: some files have not been processed:\n"
  3129.                 "\t%d specified on command line, %d not processed yet.\n\n",
  3130.                 progName, numFileNames,
  3131.                           numFileNames - numFilesProcessed );
  3132.    }
  3133.    exit ( ec );
  3134. }
  3135.  
  3136.  
  3137. /*---------------------------------------------*/
  3138. void panic ( Char* s )
  3139. {
  3140.    fprintf ( stderr,
  3141.              "\n%s: PANIC -- internal consistency error:\n"
  3142.              "\t%s\n"
  3143.              "\tThis is a BUG.  Please report it to me at:\n"
  3144.              "\tjseward@acm.org\n",
  3145.              progName, s );
  3146.    showFileNames();
  3147.    cleanUpAndFail( 3 );
  3148. }
  3149.  
  3150.  
  3151. /*---------------------------------------------*/
  3152. void badBGLengths ( void )
  3153. {
  3154.    fprintf ( stderr,
  3155.              "\n%s: error when reading background model code lengths,\n"
  3156.              "\twhich probably means the compressed file is corrupted.\n",
  3157.              progName );
  3158.    showFileNames();
  3159.    cadvise();
  3160.    cleanUpAndFail( 2 );
  3161. }
  3162.  
  3163.  
  3164. /*---------------------------------------------*/
  3165. void crcError ( UInt32 crcStored, UInt32 crcComputed )
  3166. {
  3167.    fprintf ( stderr,
  3168.              "\n%s: Data integrity error when decompressing.\n"
  3169.              "\tStored CRC = 0x%x, computed CRC = 0x%x\n",
  3170.              progName, crcStored, crcComputed );
  3171.    showFileNames();
  3172.    cadvise();
  3173.    cleanUpAndFail( 2 );
  3174. }
  3175.  
  3176.  
  3177. /*---------------------------------------------*/
  3178. void compressedStreamEOF ( void )
  3179. {
  3180.    fprintf ( stderr,
  3181.              "\n%s: Compressed file ends unexpectedly;\n\t"
  3182.              "perhaps it is corrupted?  *Possible* reason follows.\n",
  3183.              progName );
  3184.    perror ( progName );
  3185.    showFileNames();
  3186.    cadvise();
  3187.    cleanUpAndFail( 2 );
  3188. }
  3189.  
  3190.  
  3191. /*---------------------------------------------*/
  3192. void ioError ( )
  3193. {
  3194.    fprintf ( stderr,
  3195.              "\n%s: I/O or other error, bailing out.  Possible reason follows.\n",
  3196.              progName );
  3197.    perror ( progName );
  3198.    showFileNames();
  3199.    cleanUpAndFail( 1 );
  3200. }
  3201.  
  3202.  
  3203. /*---------------------------------------------*/
  3204. void blockOverrun ()
  3205. {
  3206.    fprintf ( stderr,
  3207.              "\n%s: block overrun during decompression,\n"
  3208.              "\twhich probably means the compressed file\n"
  3209.              "\tis corrupted.\n",
  3210.              progName );
  3211.    showFileNames();
  3212.    cadvise();
  3213.    cleanUpAndFail( 2 );
  3214. }
  3215.  
  3216.  
  3217. /*---------------------------------------------*/
  3218. void badBlockHeader ()
  3219. {
  3220.    fprintf ( stderr,
  3221.              "\n%s: bad block header in the compressed file,\n"
  3222.              "\twhich probably means it is corrupted.\n",
  3223.              progName );
  3224.    showFileNames();
  3225.    cadvise();
  3226.    cleanUpAndFail( 2 );
  3227. }
  3228.  
  3229.  
  3230. /*---------------------------------------------*/
  3231. void bitStreamEOF ()
  3232. {
  3233.    fprintf ( stderr,
  3234.              "\n%s: read past the end of compressed data,\n"
  3235.              "\twhich probably means it is corrupted.\n",
  3236.              progName );
  3237.    showFileNames();
  3238.    cadvise();
  3239.    cleanUpAndFail( 2 );
  3240. }
  3241.  
  3242.  
  3243. /*---------------------------------------------*/
  3244. void mySignalCatcher ( IntNative n )
  3245. {
  3246.    fprintf ( stderr,
  3247.              "\n%s: Control-C (or similar) caught, quitting.\n",
  3248.              progName );
  3249.    cleanUpAndFail(1);
  3250. }
  3251.  
  3252.  
  3253. /*---------------------------------------------*/
  3254. void mySIGSEGVorSIGBUScatcher ( IntNative n )
  3255. {
  3256.    if (opMode == OM_Z)
  3257.       fprintf ( stderr,
  3258.                 "\n%s: Caught a SIGSEGV or SIGBUS whilst compressing,\n"
  3259.                 "\twhich probably indicates a bug in bzip2.  Please\n"
  3260.                 "\treport it to me at: jseward@acm.org\n",
  3261.                 progName );
  3262.       else
  3263.       fprintf ( stderr,
  3264.                 "\n%s: Caught a SIGSEGV or SIGBUS whilst decompressing,\n"
  3265.                 "\twhich probably indicates that the compressed data\n"
  3266.                 "\tis corrupted.\n",
  3267.                 progName );
  3268.  
  3269.    showFileNames();
  3270.    if (opMode == OM_Z)
  3271.       cleanUpAndFail( 3 ); else
  3272.       { cadvise(); cleanUpAndFail( 2 ); }
  3273. }
  3274.  
  3275.  
  3276. /*---------------------------------------------*/
  3277. void uncompressOutOfMemory ( Int32 draw, Int32 blockSize )
  3278. {
  3279.    fprintf ( stderr,
  3280.              "\n%s: Can't allocate enough memory for decompression.\n"
  3281.              "\tRequested %d bytes for a block size of %d.\n"
  3282.              "\tTry selecting space-economic decompress (with flag -s)\n"
  3283.              "\tand failing that, find a machine with more memory.\n",
  3284.              progName, draw, blockSize );
  3285.    showFileNames();
  3286.    cleanUpAndFail(1);
  3287. }
  3288.  
  3289.  
  3290. /*---------------------------------------------*/
  3291. void compressOutOfMemory ( Int32 draw, Int32 blockSize )
  3292. {
  3293.    fprintf ( stderr,
  3294.              "\n%s: Can't allocate enough memory for compression.\n"
  3295.              "\tRequested %d bytes for a block size of %d.\n"
  3296.              "\tTry selecting a small block size (with flag -s).\n",
  3297.              progName, draw, blockSize );
  3298.    showFileNames();
  3299.    cleanUpAndFail(1);
  3300. }
  3301.  
  3302.  
  3303. /*---------------------------------------------------*/
  3304. /*--- The main driver machinery                   ---*/
  3305. /*---------------------------------------------------*/
  3306.  
  3307. /*---------------------------------------------*/
  3308. void pad ( Char *s )
  3309. {
  3310.    Int32 i;
  3311.    if ( (Int32)strlen(s) >= longestFileName ) return;
  3312.    for (i = 1; i <= longestFileName - (Int32)strlen(s); i++)
  3313.       fprintf ( stderr, " " );
  3314. }
  3315.  
  3316.  
  3317. /*---------------------------------------------*/
  3318. Bool fileExists ( Char* name )
  3319. {
  3320. #ifdef BZ_RISCOS
  3321.    int regs[6];
  3322.    os_file( 17, name, regs );
  3323.    return regs[0] & 1;
  3324. #else
  3325.    FILE *tmp   = fopen ( name, "rb" );
  3326.    Bool exists = (tmp != NULL);
  3327.    if (tmp != NULL) fclose ( tmp );
  3328.    return exists;
  3329. #endif
  3330. }
  3331.  
  3332.  
  3333. /*---------------------------------------------*/
  3334. /*--
  3335.   if in doubt, return True
  3336. --*/
  3337. Bool notABogStandardFile ( Char* name )
  3338. {
  3339.    IntNative      i;
  3340.    struct MY_STAT statBuf;
  3341.  
  3342.    i = MY_LSTAT ( name, &statBuf );
  3343.    if (i != 0) return True;
  3344.    if (MY_S_IFREG(statBuf.st_mode)) return False;
  3345.    return True;
  3346. }
  3347.  
  3348.  
  3349. /*---------------------------------------------*/
  3350. void copyDateAndPermissions ( Char *srcName, Char *dstName )
  3351. {
  3352. #if BZ_UNIX
  3353.    IntNative      retVal;
  3354.    struct MY_STAT statBuf;
  3355.    struct utimbuf uTimBuf;
  3356.  
  3357.    retVal = MY_LSTAT ( srcName, &statBuf );
  3358.    ERROR_IF_NOT_ZERO ( retVal );
  3359.    uTimBuf.actime = statBuf.st_atime;
  3360.    uTimBuf.modtime = statBuf.st_mtime;
  3361.  
  3362.    retVal = chmod ( dstName, statBuf.st_mode );
  3363.    ERROR_IF_NOT_ZERO ( retVal );
  3364.    retVal = utime ( dstName, &uTimBuf );
  3365.    ERROR_IF_NOT_ZERO ( retVal );
  3366. #elif BZ_RISCOS
  3367.    int regs [6];
  3368.    os_file(17, srcName, regs);
  3369.    os_file(1, dstName, regs);
  3370. #endif
  3371. }
  3372.  
  3373.  
  3374. /*---------------------------------------------*/
  3375. Bool endsInBz2 ( Char* name )
  3376. {
  3377. #ifdef BZ_RISCOS
  3378.    int regs[6];
  3379.    os_file(17, name, regs);
  3380.    return (((regs[2] & 0x000fff00) >> 8) == BZ_FILETYPE);
  3381. #else
  3382.    Int32 n = strlen ( name );
  3383.    if (n <= 4) return False;
  3384.    return
  3385.       (name[n-4] == '.' &&
  3386.        name[n-3] == 'b' &&
  3387.        name[n-2] == 'z' &&
  3388.        name[n-1] == '2');
  3389. #endif
  3390. }
  3391.  
  3392.  
  3393. /*---------------------------------------------*/
  3394. Bool containsDubiousChars ( Char* name )
  3395. {
  3396.    Bool cdc = False;
  3397.    for (; *name != '\0'; name++)
  3398.       if (*name == '?' || *name == '*') cdc = True;
  3399.    return cdc;
  3400. }
  3401.  
  3402.  
  3403. /*---------------------------------------------*/
  3404. void compress ( Char *name )
  3405. {
  3406.    FILE *inStr;
  3407.    FILE *outStr;
  3408.    char *off;
  3409.  
  3410.    if (name == NULL && srcMode != SM_I2O)
  3411.       panic ( "compress: bad modes\n" );
  3412.  
  3413.    switch (srcMode) {
  3414.       case SM_I2O: strcpy ( inName, "(stdin)" );
  3415.                    strcpy ( outName, "(stdout)" );
  3416.                    break;
  3417.       case SM_F2F: strcpy ( inName, name );
  3418.                    strcpy ( outName, name );
  3419. #ifdef BZ_RISCOS
  3420.            off = strrchr ( outName, '.' );
  3421.            if (off == NULL) off = outName-1;
  3422.            memcpy ( off+1, "bzXXXXXX", 9);
  3423.            mktemp ( outName );
  3424. #else
  3425.                    strcat ( outName, ".bz2" );
  3426. #endif
  3427.            break;
  3428.       case SM_F2O: strcpy ( inName, name );
  3429.                    strcpy ( outName, "(stdout)" );
  3430.                    break;
  3431.    }
  3432.  
  3433.    if ( srcMode != SM_I2O && containsDubiousChars ( inName ) ) {
  3434.       fprintf ( stderr, "%s: There are no files matching `%s'.\n",
  3435.       progName, inName );
  3436.       return;
  3437.    }
  3438.    if ( srcMode != SM_I2O && !fileExists ( inName ) ) {
  3439.       fprintf ( stderr, "%s: Input file %s doesn't exist, skipping.\n",
  3440.                 progName, inName );
  3441.       return;
  3442.    }
  3443.    if ( srcMode != SM_I2O && endsInBz2 ( inName )) {
  3444.       fprintf ( stderr, "%s: Input file name %s ends in `.bz2', skipping.\n",
  3445.                 progName, inName );
  3446.       return;
  3447.    }
  3448. #ifndef BZ_RISCOS
  3449.    if ( srcMode != SM_I2O && notABogStandardFile ( inName )) {
  3450.       fprintf ( stderr, "%s: Input file %s is not a normal file, skipping.\n",
  3451.                 progName, inName );
  3452.       return;
  3453.    }
  3454. #endif
  3455.    if ( srcMode == SM_F2F && fileExists ( outName ) ) {
  3456.       fprintf ( stderr, "%s: Output file %s already exists, skipping.\n",
  3457.                 progName, outName );
  3458.       return;
  3459.    }
  3460.  
  3461.    switch ( srcMode ) {
  3462.  
  3463.       case SM_I2O:
  3464.          inStr = stdin;
  3465.          outStr = stdout;
  3466.          if ( isatty ( fileno ( stdout ) ) ) {
  3467.             fprintf ( stderr,
  3468.                       "%s: I won't write compressed data to a terminal.\n",
  3469.                       progName );
  3470.             fprintf ( stderr, "%s: For help, type: `%s --help'.\n",
  3471.                               progName, progName );
  3472.             return;
  3473.          };
  3474.          break;
  3475.  
  3476.       case SM_F2O:
  3477.          inStr = fopen ( inName, "rb" );
  3478.          outStr = stdout;
  3479.          if ( isatty ( fileno ( stdout ) ) ) {
  3480.             fprintf ( stderr,
  3481.                       "%s: I won't write compressed data to a terminal.\n",
  3482.                       progName );
  3483.             fprintf ( stderr, "%s: For help, type: `%s --help'.\n",
  3484.                               progName, progName );
  3485.             return;
  3486.          };
  3487.          if ( inStr == NULL ) {
  3488.             fprintf ( stderr, "%s: Can't open input file %s, skipping.\n",
  3489.                       progName, inName );
  3490.             return;
  3491.          };
  3492.          break;
  3493.  
  3494.       case SM_F2F:
  3495.          inStr = fopen ( inName, "rb" );
  3496.          outStr = fopen ( outName, "wb" );
  3497.          if ( outStr == NULL) {
  3498.             fprintf ( stderr, "%s: Can't create output file %s, skipping.\n",
  3499.                       progName, outName );
  3500.             return;
  3501.          }
  3502.          if ( inStr == NULL ) {
  3503.             fprintf ( stderr, "%s: Can't open input file %s, skipping.\n",
  3504.                       progName, inName );
  3505.             return;
  3506.          };
  3507.          break;
  3508.  
  3509.       default:
  3510.          panic ( "compress: bad srcMode" );
  3511.          break;
  3512.    }
  3513.  
  3514.    if (verbosity >= 1) {
  3515.       fprintf ( stderr,  "  %s: ", inName );
  3516.       pad ( inName );
  3517.       fflush ( stderr );
  3518.    }
  3519.  
  3520.    /*--- Now the input and output handles are sane.  Do the Biz. ---*/
  3521.    outputHandleJustInCase = outStr;
  3522.    compressStream ( inStr, outStr );
  3523.    outputHandleJustInCase = NULL;
  3524.  
  3525.    /*--- If there was an I/O error, we won't get here. ---*/
  3526.    if ( srcMode == SM_F2F ) {
  3527.       copyDateAndPermissions ( inName, outName );
  3528. #ifdef BZ_RISCOS
  3529.       {
  3530.          int regs[3];
  3531.          regs[2] = BZ_FILETYPE;
  3532.          os_file( 18, outName, regs);
  3533.       }
  3534. #endif
  3535.       if ( !keepInputFiles ) {
  3536.          IntNative retVal = remove ( inName );
  3537.          ERROR_IF_NOT_ZERO ( retVal );
  3538. #ifdef BZ_RISCOS
  3539.      rename( outName, inName );
  3540. #endif
  3541.       }
  3542.    }
  3543. }
  3544.  
  3545.  
  3546. /*---------------------------------------------*/
  3547. void uncompress ( Char *name )
  3548. {
  3549.    FILE *inStr;
  3550.    FILE *outStr;
  3551.    Bool magicNumberOK;
  3552.    char *off;
  3553.  
  3554.    if (name == NULL && srcMode != SM_I2O)
  3555.       panic ( "uncompress: bad modes\n" );
  3556.  
  3557.    switch (srcMode) {
  3558.       case SM_I2O: strcpy ( inName, "(stdin)" );
  3559.                    strcpy ( outName, "(stdout)" );
  3560.                    break;
  3561.       case SM_F2F: strcpy ( inName, name );
  3562.                    strcpy ( outName, name );
  3563. #ifdef BZ_RISCOS
  3564.            off = strrchr ( outName, '.' );
  3565.            if (off == NULL) off = outName-1;
  3566.            memcpy ( off+1, "bzXXXXXX", 9);
  3567.            mktemp ( outName );
  3568. #else
  3569.                    if (endsInBz2 ( outName ))
  3570.                       outName [ strlen ( outName ) - 4 ] = '\0';
  3571. #endif
  3572.                    break;
  3573.       case SM_F2O: strcpy ( inName, name );
  3574.                    strcpy ( outName, "(stdout)" );
  3575.                    break;
  3576.    }
  3577.  
  3578.    if ( srcMode != SM_I2O && containsDubiousChars ( inName ) ) {
  3579.       fprintf ( stderr, "%s: There are no files matching `%s'.\n",
  3580.                 progName, inName );
  3581.       return;
  3582.    }
  3583.    if ( srcMode != SM_I2O && !fileExists ( inName ) ) {
  3584.       fprintf ( stderr, "%s: Input file %s doesn't exist, skipping.\n",
  3585.                 progName, inName );
  3586.       return;
  3587.    }
  3588.    if ( srcMode != SM_I2O && !endsInBz2 ( inName )) {
  3589.       fprintf ( stderr,
  3590.                 "%s: Input file name %s doesn't end in `.bz2', skipping.\n",
  3591.                 progName, inName );
  3592.       return;
  3593.    }
  3594. #ifndef BZ_RISCOS
  3595.    if ( srcMode != SM_I2O && notABogStandardFile ( inName )) {
  3596.       fprintf ( stderr, "%s: Input file %s is not a normal file, skipping.\n",
  3597.                 progName, inName );
  3598.       return;
  3599.    }
  3600. #endif
  3601.    if ( srcMode == SM_F2F && fileExists ( outName ) ) {
  3602.       fprintf ( stderr, "%s: Output file %s already exists, skipping.\n",
  3603.                 progName, outName );
  3604.       return;
  3605.    }
  3606.  
  3607.    switch ( srcMode ) {
  3608.  
  3609.       case SM_I2O:
  3610.          inStr = stdin;
  3611.          outStr = stdout;
  3612.          if ( isatty ( fileno ( stdin ) ) ) {
  3613.             fprintf ( stderr,
  3614.                       "%s: I won't read compressed data from a terminal.\n",
  3615.                       progName );
  3616.             fprintf ( stderr, "%s: For help, type: `%s --help'.\n",
  3617.                               progName, progName );
  3618.             return;
  3619.          };
  3620.          break;
  3621.  
  3622.       case SM_F2O:
  3623.          inStr = fopen ( inName, "rb" );
  3624.          outStr = stdout;
  3625.          if ( inStr == NULL ) {
  3626.             fprintf ( stderr, "%s: Can't open input file %s, skipping.\n",
  3627.                       progName, inName );
  3628.             return;
  3629.          };
  3630.          break;
  3631.  
  3632.       case SM_F2F:
  3633.          inStr = fopen ( inName, "rb" );
  3634.          outStr = fopen ( outName, "wb" );
  3635.          if ( outStr == NULL) {
  3636.             fprintf ( stderr, "%s: Can't create output file %s, skipping.\n",
  3637.                       progName, outName );
  3638.             return;
  3639.          }
  3640.          if ( inStr == NULL ) {
  3641.             fprintf ( stderr, "%s: Can't open input file %s, skipping.\n",
  3642.                       progName, inName );
  3643.             return;
  3644.          };
  3645.          break;
  3646.  
  3647.       default:
  3648.          panic ( "uncompress: bad srcMode" );
  3649.          break;
  3650.    }
  3651.  
  3652.    if (verbosity >= 1) {
  3653.       fprintf ( stderr, "  %s: ", inName );
  3654.       pad ( inName );
  3655.       fflush ( stderr );
  3656.    }
  3657.  
  3658.    /*--- Now the input and output handles are sane.  Do the Biz. ---*/
  3659.    outputHandleJustInCase = outStr;
  3660.    magicNumberOK = uncompressStream ( inStr, outStr );
  3661.    outputHandleJustInCase = NULL;
  3662.  
  3663.    /*--- If there was an I/O error, we won't get here. ---*/
  3664.    if ( magicNumberOK ) {
  3665.       if ( srcMode == SM_F2F ) {
  3666.          copyDateAndPermissions ( inName, outName );
  3667.          if ( !keepInputFiles ) {
  3668.             IntNative retVal = remove ( inName );
  3669.             ERROR_IF_NOT_ZERO ( retVal );
  3670.          }
  3671. #ifdef BZ_RISCOS
  3672.      {
  3673.         int regs[3];
  3674.         rename( outName, inName );
  3675.         regs[2] = 0xffd;
  3676.         os_file( 18, inName, regs );
  3677.      }
  3678. #endif
  3679.       }
  3680.    } else {
  3681.       if ( srcMode == SM_F2F ) {
  3682.          IntNative retVal = remove ( outName );
  3683.          ERROR_IF_NOT_ZERO ( retVal );
  3684.       }
  3685.    }
  3686.  
  3687.    if ( magicNumberOK ) {
  3688.       if (verbosity >= 1)
  3689.          fprintf ( stderr, "done\n" );
  3690.    } else {
  3691.       if (verbosity >= 1)
  3692.          fprintf ( stderr, "not a bzip2 file, skipping.\n" ); else
  3693.          fprintf ( stderr,
  3694.                    "%s: %s is not a bzip2 file, skipping.\n",
  3695.                    progName, inName );
  3696.    }
  3697.  
  3698. }
  3699.  
  3700.  
  3701. /*---------------------------------------------*/
  3702. void testf ( Char *name )
  3703. {
  3704.    FILE *inStr;
  3705.    Bool allOK;
  3706.  
  3707.    if (name == NULL && srcMode != SM_I2O)
  3708.       panic ( "testf: bad modes\n" );
  3709.  
  3710.    strcpy ( outName, "(none)" );
  3711.    switch (srcMode) {
  3712.       case SM_I2O: strcpy ( inName, "(stdin)" ); break;
  3713.       case SM_F2F: strcpy ( inName, name ); break;
  3714.       case SM_F2O: strcpy ( inName, name ); break;
  3715.    }
  3716.  
  3717.    if ( srcMode != SM_I2O && containsDubiousChars ( inName ) ) {
  3718.       fprintf ( stderr, "%s: There are no files matching `%s'.\n",
  3719.                 progName, inName );
  3720.       return;
  3721.    }
  3722.    if ( srcMode != SM_I2O && !fileExists ( inName ) ) {
  3723.       fprintf ( stderr, "%s: Input file %s doesn't exist, skipping.\n",
  3724.                 progName, inName );
  3725.       return;
  3726.    }
  3727.    if ( srcMode != SM_I2O && !endsInBz2 ( inName )) {
  3728.       fprintf ( stderr,
  3729.                 "%s: Input file name %s doesn't end in `.bz2', skipping.\n",
  3730.                 progName, inName );
  3731.       return;
  3732.    }
  3733. #ifndef BZ_RISCOS
  3734.    if ( srcMode != SM_I2O && notABogStandardFile ( inName )) {
  3735.       fprintf ( stderr, "%s: Input file %s is not a normal file, skipping.\n",
  3736.                 progName, inName );
  3737.       return;
  3738.    }
  3739. #endif
  3740.  
  3741.    switch ( srcMode ) {
  3742.  
  3743.       case SM_I2O:
  3744.          if ( isatty ( fileno ( stdin ) ) ) {
  3745.             fprintf ( stderr,
  3746.                       "%s: I won't read compressed data from a terminal.\n",
  3747.                       progName );
  3748.             fprintf ( stderr, "%s: For help, type: `%s --help'.\n",
  3749.                               progName, progName );
  3750.             return;
  3751.          };
  3752.          inStr = stdin;
  3753.          break;
  3754.  
  3755.       case SM_F2O: case SM_F2F:
  3756.          inStr = fopen ( inName, "rb" );
  3757.          if ( inStr == NULL ) {
  3758.             fprintf ( stderr, "%s: Can't open input file %s, skipping.\n",
  3759.                       progName, inName );
  3760.             return;
  3761.          };
  3762.          break;
  3763.  
  3764.       default:
  3765.          panic ( "testf: bad srcMode" );
  3766.          break;
  3767.    }
  3768.  
  3769.    if (verbosity >= 1) {
  3770.       fprintf ( stderr, "  %s: ", inName );
  3771.       pad ( inName );
  3772.       fflush ( stderr );
  3773.    }
  3774.  
  3775.    /*--- Now the input handle is sane.  Do the Biz. ---*/
  3776.    allOK = testStream ( inStr );
  3777.  
  3778.    if (allOK && verbosity >= 1) fprintf ( stderr, "ok\n" );
  3779.    if (!allOK) testFailsExist = True;
  3780. }
  3781.  
  3782.  
  3783. /*---------------------------------------------*/
  3784. void license ( void )
  3785. {
  3786.    fprintf ( stderr,
  3787.  
  3788.     "bzip2, a block-sorting file compressor.  "
  3789.     "Version 0.1pl2, 29-Aug-97.\n"
  3790.     "   \n"
  3791.     "   Copyright (C) 1996, 1997 by Julian Seward.\n"
  3792.     "   \n"
  3793.     "   This program is free software; you can redistribute it and/or modify\n"
  3794.     "   it under the terms of the GNU General Public License as published by\n"
  3795.     "   the Free Software Foundation; either version 2 of the License, or\n"
  3796.     "   (at your option) any later version.\n"
  3797.     "   \n"
  3798.     "   This program is distributed in the hope that it will be useful,\n"
  3799.     "   but WITHOUT ANY WARRANTY; without even the implied warranty of\n"
  3800.     "   MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the\n"
  3801.     "   GNU General Public License for more details.\n"
  3802.     "   \n"
  3803.     "   You should have received a copy of the GNU General Public License\n"
  3804.     "   along with this program; if not, write to the Free Software\n"
  3805.     "   Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.\n"
  3806.     "   \n"
  3807.     "   The GNU General Public License is contained in the file LICENSE.\n"
  3808.     "   \n"
  3809.    );
  3810. }
  3811.  
  3812.  
  3813. /*---------------------------------------------*/
  3814. void usage ( Char *fullProgName )
  3815. {
  3816.    fprintf (
  3817.       stderr,
  3818.       "bzip2, a block-sorting file compressor.  "
  3819.       "Version 0.1pl2, 29-Aug-97.\n"
  3820.       "\n   usage: %s [flags and input files in any order]\n"
  3821.       "\n"
  3822.       "   -h --help           print this message\n"
  3823.       "   -d --decompress     force decompression\n"
  3824.       "   -f --compress       force compression\n"
  3825.       "   -t --test           test compressed file integrity\n"
  3826.       "   -c --stdout         output to standard out\n"
  3827.       "   -v --verbose        be verbose (a 2nd -v gives more)\n"
  3828.       "   -k --keep           keep (don't delete) input files\n"
  3829.       "   -L --license        display software version & license\n"
  3830.       "   -V --version        display software version & license\n"
  3831.       "   -s --small          use less memory (at most 2500k)\n"
  3832.       "   -1 .. -9            set block size to 100k .. 900k\n"
  3833.       "   --repetitive-fast   compress repetitive blocks faster\n"
  3834.       "   --repetitive-best   compress repetitive blocks better\n"
  3835.       "\n"
  3836.       "   If invoked as `bzip2', the default action is to compress.\n"
  3837.       "              as `bunzip2', the default action is to decompress.\n"
  3838.       "\n"
  3839.       "   If no file names are given, bzip2 compresses or decompresses\n"
  3840.       "   from standard input to standard output.  You can combine\n"
  3841.       "   flags, so `-v -4' means the same as -v4 or -4v, &c.\n"
  3842.       #if BZ_UNIX
  3843.       "\n"
  3844.       #endif
  3845.       ,
  3846.  
  3847.       fullProgName
  3848.    );
  3849. }
  3850.  
  3851.  
  3852. /*---------------------------------------------*/
  3853. /*--
  3854.   All the garbage from here to main() is purely to
  3855.   implement a linked list of command-line arguments,
  3856.   into which main() copies argv[1 .. argc-1].
  3857.  
  3858.   The purpose of this ridiculous exercise is to
  3859.   facilitate the expansion of wildcard characters
  3860.   * and ? in filenames for halfwitted OSs like
  3861.   MSDOS, Windows 95 and NT.
  3862.  
  3863.   The actual Dirty Work is done by the platform-specific
  3864.   macro APPEND_FILESPEC.
  3865. --*/
  3866.  
  3867. typedef
  3868.    struct zzzz {
  3869.       Char        *name;
  3870.       struct zzzz *link;
  3871.    }
  3872.    Cell;
  3873.  
  3874.  
  3875. /*---------------------------------------------*/
  3876. void *myMalloc ( Int32 n )
  3877. {
  3878.    void* p;
  3879.  
  3880.    p = malloc ( (size_t)n );
  3881.    if (p == NULL) {
  3882.       fprintf (
  3883.          stderr,
  3884.          "%s: `malloc' failed on request for %d bytes.\n",
  3885.          progName, n
  3886.       );
  3887.       exit ( 1 );
  3888.    }
  3889.    return p;
  3890. }
  3891.  
  3892.  
  3893. /*---------------------------------------------*/
  3894. Cell *mkCell ( void )
  3895. {
  3896.    Cell *c;
  3897.  
  3898.    c = (Cell*) myMalloc ( sizeof ( Cell ) );
  3899.    c->name = NULL;
  3900.    c->link = NULL;
  3901.    return c;
  3902. }
  3903.  
  3904.  
  3905. /*---------------------------------------------*/
  3906. Cell *snocString ( Cell *root, Char *name )
  3907. {
  3908.    if (root == NULL) {
  3909.       Cell *tmp = mkCell();
  3910.       tmp->name = (Char*) myMalloc ( 5 + strlen(name) );
  3911.       strcpy ( tmp->name, name );
  3912.       return tmp;
  3913.    } else {
  3914.       Cell *tmp = root;
  3915.       while (tmp->link != NULL) tmp = tmp->link;
  3916.       tmp->link = snocString ( tmp->link, name );
  3917.       return root;
  3918.    }
  3919. }
  3920.  
  3921.  
  3922.  
  3923. /*---------------------------------------------*/
  3924. #define ISFLAG(s) (strcmp(aa->name, (s))==0)
  3925.  
  3926.  
  3927. IntNative main ( IntNative argc, Char *argv[] )
  3928. {
  3929.    Int32  i, j;
  3930.    Char   *tmp;
  3931.    Cell   *argList;
  3932.    Cell   *aa;
  3933.  
  3934.  
  3935.    #if DEBUG
  3936.       fprintf ( stderr, "bzip2: *** compiled with debugging ON ***\n" );
  3937.    #endif
  3938.  
  3939. #if BZ_RISCOS
  3940.    __uname_control = __UNAME_NO_PROCESS; /* Stop Unixlib trying to mangle filenames */
  3941. #endif
  3942.  
  3943.    /*-- Be really really really paranoid :-) --*/
  3944.    if (sizeof(Int32) != 4 || sizeof(UInt32) != 4  ||
  3945.        sizeof(Int16) != 2 || sizeof(UInt16) != 2  ||
  3946.        sizeof(Char)  != 1 || sizeof(UChar)  != 1) {
  3947.       fprintf ( stderr,
  3948.                 "bzip2: I'm not configured correctly for this platform!\n"
  3949.                 "\tI require Int32, Int16 and Char to have sizes\n"
  3950.                 "\tof 4, 2 and 1 bytes to run properly, and they don't.\n"
  3951.                 "\tProbably you can fix this by defining them correctly,\n"
  3952.                 "\tand recompiling.  Bye!\n" );
  3953.       exit(1);
  3954.    }
  3955.  
  3956.  
  3957.    /*-- Set up signal handlers --*/
  3958.    signal (SIGINT,  mySignalCatcher);
  3959.    signal (SIGTERM, mySignalCatcher);
  3960.    signal (SIGSEGV, mySIGSEGVorSIGBUScatcher);
  3961.    #if BZ_UNIX
  3962.    signal (SIGHUP,  mySignalCatcher);
  3963.    signal (SIGBUS,  mySIGSEGVorSIGBUScatcher);
  3964.    #endif
  3965.  
  3966.  
  3967.    /*-- Initialise --*/
  3968.    outputHandleJustInCase  = NULL;
  3969.    ftab                    = NULL;
  3970.    ll4                     = NULL;
  3971.    ll16                    = NULL;
  3972.    ll8                     = NULL;
  3973.    tt                      = NULL;
  3974.    block                   = NULL;
  3975.    zptr                    = NULL;
  3976.    smallMode               = False;
  3977.    keepInputFiles          = False;
  3978.    verbosity               = 0;
  3979.    blockSize100k           = 9;
  3980.    testFailsExist          = False;
  3981.    bsStream                = NULL;
  3982.    numFileNames            = 0;
  3983.    numFilesProcessed       = 0;
  3984.    workFactor              = 30;
  3985.  
  3986.    strcpy ( inName,  "(none)" );
  3987.    strcpy ( outName, "(none)" );
  3988.  
  3989.    strcpy ( progNameReally, argv[0] );
  3990.    progName = &progNameReally[0];
  3991.    for (tmp = &progNameReally[0]; *tmp != '\0'; tmp++)
  3992.       if (*tmp == PATH_SEP) progName = tmp + 1;
  3993.  
  3994.  
  3995.    /*-- Expand filename wildcards in arg list --*/
  3996.    argList = NULL;
  3997.    for (i = 1; i <= argc-1; i++)
  3998.       APPEND_FILESPEC(argList, argv[i]);
  3999.  
  4000.  
  4001.    /*-- Find the length of the longest filename --*/
  4002.    longestFileName = 7;
  4003.    numFileNames    = 0;
  4004.    for (aa = argList; aa != NULL; aa = aa->link)
  4005.       if (aa->name[0] != '-') {
  4006.          numFileNames++;
  4007.          if (longestFileName < (Int32)strlen(aa->name) )
  4008.             longestFileName = (Int32)strlen(aa->name);
  4009.       }
  4010.  
  4011.  
  4012.    /*-- Determine what to do (compress/uncompress/test). --*/
  4013.    /*-- Note that subsequent flag handling may change this. --*/
  4014.    opMode = OM_Z;
  4015.  
  4016.    if ( (strcmp ( "bunzip2",     progName ) == 0) ||
  4017.         (strcmp ( "BUNZIP2",     progName ) == 0) ||
  4018.         (strcmp ( "bunzip2.exe", progName ) == 0) ||
  4019.         (strcmp ( "BUNZIP2.EXE", progName ) == 0) )
  4020.       opMode = OM_UNZ;
  4021.  
  4022.  
  4023.    /*-- Determine source modes; flag handling may change this too. --*/
  4024.    if (numFileNames == 0)
  4025.       srcMode = SM_I2O; else srcMode = SM_F2F;
  4026.  
  4027.  
  4028.    /*-- Look at the flags. --*/
  4029.    for (aa = argList; aa != NULL; aa = aa->link)
  4030.       if (aa->name[0] == '-' && aa->name[1] != '-')
  4031.          for (j = 1; aa->name[j] != '\0'; j++)
  4032.             switch (aa->name[j]) {
  4033.                case 'c': srcMode          = SM_F2O; break;
  4034.                case 'd': opMode           = OM_UNZ; break;
  4035.                case 'f': opMode           = OM_Z; break;
  4036.                case 't': opMode           = OM_TEST; break;
  4037.                case 'k': keepInputFiles   = True; break;
  4038.                case 's': smallMode        = True; break;
  4039.                case '1': blockSize100k    = 1; break;
  4040.                case '2': blockSize100k    = 2; break;
  4041.                case '3': blockSize100k    = 3; break;
  4042.                case '4': blockSize100k    = 4; break;
  4043.                case '5': blockSize100k    = 5; break;
  4044.                case '6': blockSize100k    = 6; break;
  4045.                case '7': blockSize100k    = 7; break;
  4046.                case '8': blockSize100k    = 8; break;
  4047.                case '9': blockSize100k    = 9; break;
  4048.                case 'V':
  4049.                case 'L': license();            break;
  4050.                case 'v': verbosity++; break;
  4051.                case 'h': usage ( progName );
  4052.                          exit ( 1 );
  4053.                          break;
  4054.                default:  fprintf ( stderr, "%s: Bad flag `%s'\n",
  4055.                                    progName, aa->name );
  4056.                          usage ( progName );
  4057.                          exit ( 1 );
  4058.                          break;
  4059.          }
  4060.  
  4061.    /*-- And again ... --*/
  4062.    for (aa = argList; aa != NULL; aa = aa->link) {
  4063.       if (ISFLAG("--stdout"))            srcMode          = SM_F2O;  else
  4064.       if (ISFLAG("--decompress"))        opMode           = OM_UNZ;  else
  4065.       if (ISFLAG("--compress"))          opMode           = OM_Z;    else
  4066.       if (ISFLAG("--test"))              opMode           = OM_TEST; else
  4067.       if (ISFLAG("--keep"))              keepInputFiles   = True;    else
  4068.       if (ISFLAG("--small"))             smallMode        = True;    else
  4069.       if (ISFLAG("--version"))           license();                  else
  4070.       if (ISFLAG("--license"))           license();                  else
  4071.       if (ISFLAG("--repetitive-fast"))   workFactor = 5;             else
  4072.       if (ISFLAG("--repetitive-best"))   workFactor = 150;           else
  4073.       if (ISFLAG("--verbose"))           verbosity++;                else
  4074.       if (ISFLAG("--help"))              { usage ( progName ); exit ( 1 ); }
  4075.          else
  4076.          if (strncmp ( aa->name, "--", 2) == 0) {
  4077.             fprintf ( stderr, "%s: Bad flag `%s'\n", progName, aa->name );
  4078.             usage ( progName );
  4079.             exit ( 1 );
  4080.          }
  4081.    }
  4082.  
  4083.    if (opMode == OM_Z && smallMode) blockSize100k = 2;
  4084.  
  4085.    if (opMode == OM_Z && srcMode == SM_F2O && numFileNames > 1) {
  4086.       fprintf ( stderr, "%s: I won't compress multiple files to stdout.\n",
  4087.                 progName );
  4088.       exit ( 1 );
  4089.    }
  4090.  
  4091.    if (srcMode == SM_F2O && numFileNames == 0) {
  4092.       fprintf ( stderr, "%s: -c expects at least one filename.\n",
  4093.                 progName );
  4094.       exit ( 1 );
  4095.    }
  4096.  
  4097.    if (opMode == OM_TEST && srcMode == SM_F2O) {
  4098.       fprintf ( stderr, "%s: -c and -t cannot be used together.\n",
  4099.                 progName );
  4100.       exit ( 1 );
  4101.    }
  4102.  
  4103.    if (opMode != OM_Z) blockSize100k = 0;
  4104.  
  4105.    if (opMode == OM_Z) {
  4106.       allocateCompressStructures();
  4107.       if (srcMode == SM_I2O)
  4108.          compress ( NULL );
  4109.          else
  4110.          for (aa = argList; aa != NULL; aa = aa->link)
  4111.             if (aa->name[0] != '-') {
  4112.                numFilesProcessed++;
  4113.                compress ( aa->name );
  4114.             }
  4115.    } else
  4116.    if (opMode == OM_UNZ) {
  4117.       if (srcMode == SM_I2O)
  4118.          uncompress ( NULL );
  4119.          else
  4120.          for (aa = argList; aa != NULL; aa = aa->link)
  4121.             if (aa->name[0] != '-') {
  4122.                numFilesProcessed++;
  4123.                uncompress ( aa->name );
  4124.             }
  4125.    } else {
  4126.       testFailsExist = False;
  4127.       if (srcMode == SM_I2O)
  4128.          testf ( NULL );
  4129.          else
  4130.          for (aa = argList; aa != NULL; aa = aa->link)
  4131.             if (aa->name[0] != '-') {
  4132.                numFilesProcessed++;
  4133.                testf ( aa->name );
  4134.             }
  4135.       if (testFailsExist) {
  4136.          fprintf ( stderr,
  4137.            "\n"
  4138.            "You can use the `bzip2recover' program to *attempt* to recover\n"
  4139.            "data from undamaged sections of corrupted files.\n\n"
  4140.          );
  4141.          exit(2);
  4142.       }
  4143.    }
  4144.    return 0;
  4145. }
  4146.  
  4147.  
  4148. /*-----------------------------------------------------------*/
  4149. /*--- end                                         bzip2.c ---*/
  4150. /*-----------------------------------------------------------*/
  4151.